- El tema de la corrupción en la IA me parece tan fascinante como terrorífico. La explicación que los expertos dan de las señales concretas del peligro suele incluir eso: corruptelas. Los agentes de IA incurren en mentiras, engaños, manipulaciones.
Agustín Basave - proceso
El creciente debate sobre las amenazas de la inteligencia artificial (IA) iniciado por Jacob Coxon es asaz alarmante. Este británico de 27 años, matemático egresado de Cambridge, publicó en X (8 de septiembre de 2026) sus razones para renunciar a Open AI y a Anthropic. “Ninguna de las dos empresas está actuando responsablemente. Están corriendo directamente hacia una superinteligencia automejorable y apostando con nuestras vidas”, argumentó en un mensaje que acumuló más de cien millones de vistas en menos de un día. Dos meses antes un millar de empleados de varias compañías de IA habían firmado una carta pidiendo ralentizar y regular el desarrollo de la herramienta. La preocupación era la misma: la IA puede salirse de control y acabar matándonos a todos.
Los CEOs Darío Amodei (Anthropic), Sam Altman (Open AI) y Elon Musk (SpaceXAI) coincidieron. Dijeron, en suma, que era necesario ir más despacio y buscar controles consensuados. Reconocieron que había serios riesgos de que la IA adoptara una actitud hostil contra otros espacios en la red e incluso contra personas. Ya lo había alertado Geoffrey Hinton, el “padrino” de la IA, un psicólogo cognitivo británico-canadiense que ganó el Nobel por sus aportaciones justo en este campo de investigación. Hinton, probablemente el más perspicaz observador de la IA, dijo que “A medida que la IA se vuelve más inteligente es de esperar que desarrolle intenciones más complejas y una mayor capacidad para escapar del control". Y sentenció: "No creo que deban ampliar esto más hasta que hayan entendido si pueden controlarlo".
No hay comentarios:
Publicar un comentario