Curiosidades de la Ingeniería · Curiosidad nº 11
Cómo funciona una Inteligencia Artificial por dentro (no es magia)
¿Qué ocurre dentro de una IA cuando le haces una pregunta?
Escribes una frase en el móvil y, en cuestión de segundos, una máquina te responde. ¿Magia? Casi todo es electricidad y cuentas. ¿De dónde sale esa respuesta? ¿Quién la escribe? ¿Y por qué a veces se equivoca con tanto aplomo?
Hoy vamos a seguir a una pregunta de seis palabras, ¿por qué el cielo es azul?, en su viaje de ida y vuelta. Por el camino verás un diccionario que no tiene palabras, un edificio con sed de electricidad y una apuesta que se repite una y otra vez. Será una versión simplificada, pero con ejemplos reales. Empezamos en tu móvil.
Capítulo uno: tu pregunta se hace trizas.
Para la máquina, tu pregunta no son letras: son piezas, y cada pieza es un número. Imagina que alguien corta la frase con unas tijeras, como un puzle. Esos trocitos tienen nombre: tókens.
¿Una palabra, una pieza? Qué va. Con un diccionario público de 2024, tu pregunta sale en siete piezas. Con uno de 2023, en 10: «cielo» se parte en «ci» y «elo», y «azul» en «az» y «ul». Con uno de 2019, en 14: hasta la «¿» se parte en dos. En inglés, la misma pregunta son seis. Injusto, pero cierto: en español suele hacer falta algo más de piezas. Ninguno es el de un asistente concreto: de los de pago no se sabe cuál usan.
Cada pieza tiene su número de carné, y en otro diccionario sería otro.
Y falta un paso: cada pieza se convierte en una lista de números. En un modelo pequeño y abierto son 768. Con ese diccionario de 2019 y ese modelo pequeño, tu pregunta son 14 piezas por 768 números: más de 10.000. Para 26 caracteres, no está mal. Atento a esto: ninguno de esos números significa «azul» por sí solo. El sentido está en el conjunto. Tu pregunta ya no es texto: es una tabla de números.
Capítulo dos: el paquete hace cola.
Ahora la pregunta, hecha números, sale del móvil, cruza la antena y atraviesa varias redes. Todo va cifrado, para que nadie por el camino pueda leerlo ni alterarlo. ¿Y cuánto tarda el viaje? Menos de lo que crees.
Solo en ir y volver a un centro de datos a 1500 kilómetros, la luz en fibra óptica necesita como mínimo unos 15 milisegundos. Y las mediciones de una web de pruebas de velocidad dan, para móviles de todo el mundo hasta un servidor cercano, decenas de milisegundos de mediana. ¿Entonces dónde se va el tiempo? Casi siempre, lo que más tarda no es el cable: es el cálculo.
Fíjate en la puerta del centro de datos. Normalmente, allí espera un balanceador de carga, que reparte las peticiones entre servidores que estén sanos. Es como el camarero que te dice «mesa cuatro». Y después, a esperar turno. El tiempo hasta la primera pieza de respuesta incluye la cola, la lectura de tu pregunta y la red, y cambia con el modelo y con la carga. Un viaje enorme, para acabar haciendo cola. Qué país.
Otra vez, versión simplificada: de ningún asistente se conoce la ruta exacta, y en la práctica hay colas, cachés y varias copias del modelo.
Capítulo tres: 1000 cocineros y un ventilador.
Por fin, tu pregunta llega a un servidor. Imagina un procesador normal como unos pocos cocineros rapidísimos que van haciendo una cosa detrás de otra. Ahora imagina una cocina con miles de cocineros, cada uno haciendo una cuenta sencilla, todos a la vez. Una IA es casi todo cuentas sencillas. Esa cocina tiene nombre: gepeú.
No es la tarjeta de tu consola. Según la ficha de un modelo concreto de centro de datos, una gepeú lleva 80 gigabytes de memoria, gasta hasta 700 vatios y hace, en teoría, cerca de 1000 billones de operaciones por segundo. 1000 BILLONES. Un servidor con ocho, hasta unos 10 kilovatios.
¿Cabe un modelo grande en una? Malas noticias. Uno de los mayores modelos abiertos, guardado en 16 bits, ocupa 810 gigabytes, y un servidor de ocho tiene 640. Sus creadores lo repartieron entre 16 gepeús, en dos máquinas. Ni una cocina grande cabe sola.
Todo eso se calienta, claro. Hay armarios refrigerados por aire y otros, de última generación, refrigerados por líquido. ¿Y cuánto cuesta en electricidad tu pregunta? Según las estimaciones, entre 0,2 y 0,4 vatios-hora: unos dos minutos de una bombilla led. Una empresa midió 0,24 en su propio sistema, y un análisis independiente estima 0,3.
Lo que pesa es la suma: todos los centros de datos del mundo gastaron en 2024 unos 415 teravatios-hora, el 1,5 por 100 de la electricidad mundial. Y no solo en IA.
Capítulo cuatro: subrayar con ganas.
Tu pregunta entra por fin en el modelo: una red de capas llena de números que se ajustaron mucho antes de tu pregunta, leyendo una cantidad inmensa de texto: eso es el entrenamiento. Esos números se llaman parámetros, o pesos. Uno de los mayores modelos abiertos, con cifras completas, tiene 126 capas y 405.000 millones de parámetros: 405.000 millones de ruedecitas, y ninguna con etiqueta. De los modelos comerciales ni siquiera se publica el tamaño.
En cada capa pasa algo parecido a esto. Cada pieza se pregunta: ¿a qué otras piezas de la frase debo hacer caso? Es como subrayar con rotulador, fuerte lo importante y flojo lo demás. «Azul» subraya fuerte «cielo» y casi nada la «¿». Es solo una analogía. Esa idea se llama atención, y salió en un artículo de 2017 titulado «La atención es todo lo que necesitas».
126 capas después, sale el resultado. ¡Ya está! ¡Ya sabe la respuesta! ¿Seguro? Pues no. Lo que sale es una lista de probabilidades para una sola cosa: la siguiente pieza. Una.
Y nada de abrir una base de datos: el modelo, por sí solo, no consulta nada. Calcula. Algunas aplicaciones le añaden una búsqueda por encima, pero eso es otra pieza del montaje. Y una advertencia honesta: un laboratorio que construye estos modelos ha publicado que no entiende cómo hacen la mayoría de las cosas que hacen. Así que «versión simplificada» se queda corto.
Capítulo cinco: de una en una, como las patatas fritas.
Son dos fases. Primero el modelo lee tu pregunta entera, de golpe, todas las piezas a la vez: ahí la gepeú se luce. Luego escribe de una en una, y cada pieza nueva usa todas las anteriores. ¿Por qué no todas a la vez? Porque cada pieza necesita que exista la anterior. Y esta parte es más lenta: por cada pieza hay que leer los números del modelo desde la memoria.
Probemos con un modelo pequeño de 2019, que habla sobre todo inglés. Le doy «el cielo es azul porque» y escoge, traducido, «de». Luego «el». Luego «sol». Nadie dijo que fuera elegante.
¿Y escoge siempre la favorita? Depende de un botón llamado temperatura. Con temperatura baja, «de» se lleva 79 %. Con temperatura muy alta, casi todas valen igual: menos del 1 %. Por eso la misma pregunta puede dar respuestas distintas.
Y esto explica algo que ves cada día: la respuesta aparece escribiéndose. No es teatro. Se te manda según se calcula, y cada pieza nueva espera a la anterior. Cada aplicación lo adorna a su manera, pero la razón es esa. Cada pieza hace el viaje de vuelta, cifrada, hasta tu móvil. Y tu pregunta, por fin, llega a casa.
Capítulo seis: sonar bien es gratis.
Volvamos al modelo pequeño, con la temperatura subida, y pidámosle tres veces lo mismo: «el cielo es azul porque». La primera vez dice: «una estrella brillante con un horizonte estrecho». La segunda: «puedo ver la Luna a través de los cielos azules». Y la tercera: «la gente todavía tiene que comer». Suena a frase. Es lo único que tiene de frase.
Es un modelo de 2019, no el de ningún asistente de hoy. Pero enseña el truco: está hecho para continuar textos con sentido, no para comprobar si son verdad. Cuando lo plausible sale falso y dicho con seguridad, se llama alucinación.
¿Por qué pasa? Según una de las empresas que construyen estos modelos, por dos razones. Aprenden de textos donde solo ven lenguaje fluido, sin etiquetas de verdadero o falso, y un dato raro, como el cumpleaños de una mascota, no se deduce de patrones. Y durante años se les puntuó por acertar, no por admitir que no sabían: adivinar salía a cuenta. No es que mienta a propósito: no hay intención documentada, es estadística.
En 2023, dos abogados de Nueva York presentaron ante un juez casos que no existían, inventados por una IA. Cuando el juez empezó a dudar, uno de ellos le preguntó a la propia IA si el caso era real. Respondió que sí. El juez les impuso, a ellos y a su bufete, una multa de 5000 dólares.
¿Entonces no te puedes fiar? Fíate, pero comprueba. Según esa misma empresa, los modelos nuevos alucinan bastante menos, pero todavía ocurre. Si tu asistente te da fuentes, ábrelas: hasta las búsquedas pueden ser incompletas, anticuadas o incorrectas. Y sospecha sobre todo de los datos raros: fechas, títulos, citas y cifras exactas.
Volvamos al principio. Una pregunta de 26 caracteres se rompió en piezas, se hizo números, viajó cifrada hasta un edificio con miles de cocineros, atravesó una red enorme para calcular una sola pieza, y luego otra, y otra, hasta volver a tu pantalla. Todo, por unas décimas de vatio-hora.
¿Y dónde estaba la respuesta? En ningún sitio. No estaba escrita: se calculó, pieza a pieza, mientras la leías. ¿Magia? Electricidad y cuentas, como prometí. Una idea sencilla, repetida a una escala gigantesca: eso es ingeniería invisible.
Si quieres saber por qué el cielo es azul de verdad, pregúntaselo a una IA… y compruébalo. Y cuéntame en los comentarios: ¿qué es lo último que le preguntaste a una IA y comprobaste después? ¿Acertó?