¿Somos la verdadera amenaza de la IA?
Hace menos de dos semanas el presidente de OpenAI declaró: «Bienvenidos a la era de la inteligencia artificial general (AGI)». En el mismo mes, los directivos de la compañía anunciaron que era necesario frenar el desarrollo de la IA por el riesgo de que pudiera destruir a la humanidad. Ante estas afirmaciones, la comunidad de expertos, académicos y técnicos, tanto nacionales como internacionales, que no tienen intereses comerciales directos, rechaza la existencia de una IA general y, en muchos casos, niega que sea posible alcanzarla.
Gary Marcus, neuropsicólogo y una de las voces más destacadas en el debate sobre la IA, respondió que afirmar que la IA general ya está presente «se apoya en la nada más absoluta». Por su parte, Yann LeCun, ex‑científico jefe de IA en Meta, ha renunciado al término «inteligencia artificial general» y sostiene que los modelos de lenguaje que prometen la llegada de una «superinteligencia» están lejos de reproducir el procesamiento humano, incluso dentro de cien años.
Limitaciones estructurales de los modelos actuales
Los sistemas de gran escala (LLM) se limitan a realizar inferencias estadísticas: a partir de los datos que han digitalizado, estiman cuál es la palabra más probable que sigue en una secuencia y, por extensión, cuál es la respuesta más probable a una petición. No existe, más allá de esa probabilidad, ninguna comprensión profunda.
Los seres humanos vinculan el lenguaje a experiencias sensoriales, físicas y emocionales; nuestras palabras están «grounded» en la realidad. En cambio, los LLM son motores estadísticos puros que replican patrones textuales con gran precisión, pero sin entender su significado.
Un ejemplo ilustrativo es la solicitud de un número aleatorio entre uno y cien a ChatGPT. Las respuestas tienden a concentrarse en valores como 47, 42, 73, 37, 57 o 67. La justificación que ofrece el modelo es que esos números aparecen con frecuencia en textos y memes (por ejemplo, 42 de *The Hitchhiker’s Guide*, 47 de *Star Trek*, 73 de *The Big Bang Theory*), lo que refleja una sobre‑representación estadística en internet, no una verdadera aleatoriedad.
LeCun explica que esta arquitectura explica las llamadas «alucinaciones» de los modelos: al no disponer de recuerdos estructurados ni de razonamiento sobre objetos del mundo real, simplemente calculan probabilidades de palabras sucesivas, lo que nunca conducirá a una inteligencia verdadera.
Los estudios clásicos de Hart y Risley (1995) estiman que un niño escucha entre 20 000 y 38 000 palabras al día, lo que equivale a unos 7,3 millones de palabras al año. En cinco años, la exposición total oscila entre 15 y 45 millones de palabras. En contraste, ChatGPT fue entrenado con alrededor de diez billones de palabras y, sin embargo, sigue sin responder correctamente a preguntas que un niño de cinco años aprende de forma intuitiva.
Los riesgos reales de la IA no radican en la aparición de una conciencia artificial, sino en su uso irresponsable por parte de corporaciones y gobiernos. Entre los peligros más urgentes se encuentran los sesgos heredados de datos históricos, la proliferación de deepfakes, la transformación de relaciones laborales y económicas, y la posibilidad de que regímenes autoritarios empleen la tecnología para vigilancia masiva.
Si la AGI resulta ser matemáticamente imposible o biológicamente irreplicable en silicio, los miles de millones de dólares y las iniciativas legislativas orientadas a evitar un escenario tipo «Terminator» estarían mal dirigidos. El foco debería desplazarse a regular a los actores humanos y corporativos que controlan la IA.
La IA, tal como la conocemos, no posee conciencia ni autoconocimiento; no “escapará” de los humanos porque ni siquiera reconoce su propia existencia. Los verdaderos peligros provienen de la irresponsabilidad humana: sistemas que perpetúan discriminaciones, herramientas de vigilancia autoritaria y una economía que prioriza la automatización barata sobre la dignidad laboral.
En resumen, la IA es la herramienta más poderosa creada por el ser humano, pero sigue siendo una técnica estadística sin deseos propios ni conocimiento propio. Tratar a estos modelos como instrumentos de gran impacto, y no como entidades casi divinas, constituye el primer paso necesario para garantizar un uso equitativo y seguro de la tecnología.
Agustín Mariaga, responsable de Canal Sur LAB.
Mira tambien:
Deja una respuesta