Aún puedes experimentar la IA de Emma 5 en línea con sus respuestas incorrectas y comprender por qué los chatbots, todos ellos, no son nada inteligentes.
En primer lugar, para aquellos interesados en jugar o reproducir la ahora famosa Emma AI, que fue retirada después de 48 horas de hilaridad general, aún pueden hacerlo ya que su LLM original de código abierto ha sido reutilizado y puesto en línea por otro sitio no oficial. Por lo tanto, podemos plantearle al chatbot un acertijo elemental sobre un kilo de plomo y un kilo de plumas, para que nos digan con extrema seriedad que el plomo pesa más o que los 7 enanos valen ochocientos o doscientos millones. Esta experiencia surrealista todavía se puede experimentar probando la versión 5 del modelo de lenguaje Egomnia.
En lugar de simplemente burlarnos de un software obviamente inmaduro, podemos utilizar este desastre informático para comprender definitivamente cómo piensa una red neuronal y exactamente por qué un LLM no representa una verdadera mente pensante. Lo más interesante es que gracias a Emma se ha revelado el mayor malentendido mediático de estos tiempos, es decir, el hecho de que los LLM en los que se basan todas las IA que conocemos como ChatGPT, Grok y Gemini, no son realmente IA y realmente no tienen inteligencia, carecen de razonamiento humano y ni siquiera son capaces de decir «no sé».
LEA TAMBIÉN: Instale modelos de IA gratuitos en PC, chatbot local y fuera de línea
El truco detrás de oraciones perfectas pero lógicas
Cualquiera que haya utilizado el software de Matteo Achilli ha notado un defecto que muchos programas de este tipo tienen en común. La inteligencia artificial responde a todas las preguntas cuya respuesta desconoce comportándose como un estudiante que no ha estudiado nada pero intenta engañar al profesor, es decir, utilizando palabras difíciles y un tono autoritario. La gramática es perfecta y los verbos están bien conjugados, pero lo que dice es pura fantasía. No sólo eso, el texto generado también hace correlaciones tan absurdas que parecen casi artísticas.
Esto sucede porque estos sistemas no tienen un cerebro que comprenda los conceptos, sino que funcionan como uno solo. corrector automático de teléfonos inteligentes llevado al extremo. No consultan una enciclopedia para encontrar la verdad, sino que calculan qué palabra tiene más probabilidades de aparecer después de otra basándose en miles de millones de frases leídas en Internet. son basicamente dioses loros matemáticos. Pueden imitar la forma de hablar de un humano, pero no tienen idea de lo que es una libra de plomo o una pluma en el mundo real. Cuando no saben la respuesta, no dicen que no saben, pero inventan una frase que suene convincente para no dejar un vacío.
Porque un modelo pequeño lo hace todo mal
La razón por la que Emma cometió tantos errores está ligada a como se les llama en la jerga parámetros. Imagine los parámetros como las páginas de un diccionario dentro del software. Cuantas más páginas haya, más conceptos podrá vincular el programa. El modelo italiano comenzó con sólo 550 millones de parámetros. Parece mucho, pero hay miles de millones de sistemas que realmente funcionan.
Tener pocos parámetros es como intentar explicar toda la historia del mundo utilizando un cuaderno de pocas páginas. Hay muy poco espacio para memorizar las reglas de la lógica. Sin una base sólida de datos, el programa empieza a adivinar. El resultado es un software que escribe bien pero piensa mal y termina dando respuestas que hacen reír a cualquiera con experiencia en la escuela primaria.
MarEmma utiliza el mismo motor para crear sátira
Mientras los servidores oficiales cerraban sus puertas, la aplicación apareció online a las pocas horas Maremma. Esto no es una parodia (ya que la hermana de Emma es muy divertida), sino más bien cómo Emma debería haberse presentado al público para que no se rieran de ella. Esta es una adaptación de la versión 5 del LLM de código abierto original publicado por Egomnia en formato abierto para desarrolladores y disponible gratuitamente en huggingface.
El creador de maremma-app tomó los archivos originales y los insertó en una interfaz perfecta, incluso mejor que la original, con un ajuste más preciso que conduce a respuestas mejores, aunque casi siempre erróneas.
Si sigues la ruta de Navigaweb para instalar estos pequeños modelos en tu computadora, comprenderás que exactamente el mismo código puede ser un desastre si se vende como una herramienta profesional, pero se convierte en un brillante pasatiempo si se usa para la sátira. El límite técnico se convierte así en una fortaleza porque el usuario espera respuestas absurdas y se ríe de ellas.
La verdadera diferencia entre AI, LLM y SLM
Para no caer en los juegos del marketing de las empresas, es necesario aclarar qué utilizamos realmente cuando escribimos en un chat.
- Inteligencia artificial (IA) Es un término enorme que incluye de todo, desde un termostato inteligente hasta el radar de un avión. No significa que la máquina piense, sino sólo que sigue reglas para realizar una tarea. La idea de una máquina que piense como un hombre sigue siendo ciencia ficción.
- Modelo de lenguaje grande (LLM) son gigantes como ChatGPT. Son enormes calculadoras estadísticas que leen casi todo lo escrito en línea. Son excelentes escribiendo textos y traduciendo idiomas, pero siguen siendo motores de probabilidad, no mentes conscientes, y son incapaces de verificar sus respuestas. Además, nunca jamás se puede considerar un LLM como un motor de búsqueda.
- Modelo de lenguaje pequeño (SLM) Son versiones reducidas y ligeras, como la de Emma y Maremma. Se utilizan para ejecutarse en hardware o teléfonos inteligentes baratos. Nunca deben utilizarse para saber si un hecho es verdadero o falso, porque son demasiado pequeños para recordar los detalles y empezar a inventarlo todo.
Curiosidades técnicas y dudas habituales sobre los chatbots
- La forma en que los bots asignan un valor numérico a las palabras para decidir cuál escribir a continuación.
- El motivo por el cual después de unos minutos de chatear el programa olvida lo que dijiste al principio.
- Porque para ejecutar estos programas en casa necesitas una tarjeta de video potente y el procesador no es suficiente.
- La diferencia de calidad entre los modelos gratuitos de las universidades y los cerrados de las empresas que quieren vender suscripciones.
Libro de registro de Navigaweb
Hemos visto demasiadas veces que las empresas lanzan productos a medias solo para mantenerse al día con la tendencia de la IA. Construir un modelo que no cometa errores triviales requiere miles de millones de dólares y años de pruebas, dos comunicados de prensa y un sitio web colorido no son suficientes. Me alegra ver cómo respondió la comunidad con Maremma, porque demuestra que la honestidad intelectual siempre gana. El software que admite que es un juego es mucho más útil que el software que pretende ser el futuro de la tecnología mientras se equivoca en las facturas del supermercado. Mi consejo es seguir usando estas herramientas para divertirse y aprender, pero nunca confiar una decisión importante o una investigación histórica a un chatbot sin consultar las fuentes en un libro real.
LEA TAMBIÉN: Instale Google AI Gem sin conexión y gratis en su teléfono
