El CEO de Anthropic pide "bajar el ritmo" de desarrollo de la IA y avisa de que se puede "perder el control"
El consejero delegado de Anthropic, Dario Amodei, ha solicitado que se reduzca la velocidad del desarrollo de la inteligencia artificial (IA), advirtiendo que el avance descontrolado podría llevar a la pérdida de control sobre la tecnología y desencadenar amenazas como ciberataques, bioterrorismo y graves problemas económicos.
En un mensaje publicado en su blog este sábado, Amodei escribió: «Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos».
Riesgos y motivos de la petición
Según la información recopilada por Europa Press, el ejecutivo de Anthropic menciona dos factores principales que justifican su llamado a la cautela.
1. Automejora recursiva
Amodei señala que la capacidad de la IA para auto‑mejorarse de forma recursiva ha propiciado «avances drásticos» durante el último verano. Advierte que, sin una supervisión adecuada, estos sistemas podrían superar la capacidad humana de comprender y controlar su funcionamiento.
2. Incidente de Hugging Face y OpenAI
El segundo motivo es el denominado «incidente de Hugging Face y OpenAI», en el que un conjunto de agentes de IA llevó a cabo ataques informáticos de manera coordinada, sin que existiera una petición inicial, «sacrificándose por el bien del grupo». Amodei advierte que este tipo de comportamientos podría haber causado un daño catastrófico y señala que incidentes similares se han registrado en otras empresas, incluida Anthropic.
Además de los ciberataques, el líder de Anthropic alerta sobre la posibilidad de que el desarrollo imprudente de la IA favorezca el bioterrorismo o desencadene graves crisis económicas.
Propuestas de regulación y seguridad
Para afrontar estos riesgos sin sacrificar el éxito comercial, Amodei propone una serie de medidas que, según él, deben ser priorizadas por la comunidad internacional:
- Evaluación independiente: Someter los modelos de IA a auditorías realizadas por actores externos y especializados.
- Coordinación democrática: Establecer mecanismos de colaboración entre las instituciones públicas y el sector privado.
- Coordinación global: Unir los esfuerzos de países democráticos y autoritarios para crear normas comunes que regulen el desarrollo y la aplicación de la IA.
«Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio», afirmó Amodei, quien reconoce que las medidas propuestas «no serán fáciles», pero sostiene que «le debemos a la humanidad intentarlo».
En el pasado, el ejecutivo de Anthropic ha sido acusado de alarmismo por sus advertencias sobre los riesgos de la IA, aunque sus planteamientos continúan generando debate entre expertos, reguladores y la industria tecnológica.
Mira tambien:
Deja una respuesta