Advierten riesgo de extinción de la humanidad por inteligencia artificial

Ejecutivos de alto rango de la industria de la inteligencia artificial (IA), como Sam Altman, presidente ejecutivo de OpenAI, se unieron el martes a expertos y profesores para plantear el “riesgo de extinción por la inteligencia artificial ", e instaron a las autoridades a equipararlo con los riesgos que plantean las pandemias y la guerra nuclear.

Además de Altman, entre los firmantes figuran los directores ejecutivos de las empresas de inteligencia artificial DeepMind y Anthropic, y directivos de Microsoft MSFT.O y Google GOOGL.O.

La carta coincidió con la reunión del Consejo de Comercio y Tecnología Estados Unidos-Unión Europea en Suecia, donde se espera que los políticos hablen sobre la regulación de la inteligencia artificial. Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos de la industria fueron los primeros en citar los riesgos potenciales para la sociedad en abril.

Los recientes avances en inteligencia artificial han creado herramientas que, según sus partidarios, pueden utilizarse en aplicaciones que van desde el diagnóstico médico a la redacción de informes jurídicos, pero esto ha suscitado temores de que la tecnología pueda dar lugar a violaciones de la privacidad, impulsar campañas de desinformación y provocar problemas con “máquinas inteligentes” que piensan por si mismas.

La advertencia llega dos meses después de que la organización sin ánimo de lucro Future of Life Institute (FLI) publicó una carta abierta similar, firmada por Musk y cientos de personas más, en la que exigía una pausa urgente en la investigación avanzada de la inteligencia artificial, citando riesgos para la humanidad.

La semana pasada, Sam Altman, presidente ejecutivo de OpenAI , se refirió a los esfuerzos de la Unión Europea por crear una normativa para la inteligencia artificial como un exceso de regulación y amenazó con abandonar Europa. A los pocos días se retractó tras las críticas de los políticos.

Altman se ha convertido en el rostro de la inteligencia artificial después de que su chatbot ChatGPT tomó por sorpresa al mundo. La presidenta de la Comisión Europea, Ursula von der Leyen, se reunirá con Altman el jueves, y el jefe de Industria de la Unión Europea, Thierry Breton, se reunirá con él en San Francisco el mes que viene.

Recientemente presidente de Microsoft, Brand Smith propuso cinco acciones mundiales que podrían mejorar el uso que se le da a las inteligencias artificiales en la actualidad, desde el punto de vista del usuario hasta los gobiernos.

Según Smith, es posible utilizar un marco de gestión de riesgos para las inteligencias artificiales en todos los gobiernos para mejorar la capacidad de respuestas ante posibles peligros que puedan surgir.

Microsoft asegura haber utilizado equipos de prevención de riesgos de ciberseguridad para identificar el potencial dañino que tiene una inteligencia artificial, así que dijo estar dispuesto a trabajar con otros líderes en la industria del desarrollo de inteligencia artificial para elevar los estándares de protección para el futuro.

1. Implementar y aprovechar los nuevos marcos de seguridad de inteligencia artificial liderados por el gobierno.

2. Exigir frenos de seguridad efectivos para los sistemas de inteligencia artificial que controlan la infraestructura crítica.

3. Desarrollar un amplio marco legal y regulatorio basado en la arquitectura tecnológica para la inteligencia artificial.

4. Promover la transparencia y garantizar el acceso académico y sin fines de lucro a la inteligencia artificial.

5. Buscar nuevas asociaciones público-privadas para utilizar la inteligencia artificial como una herramienta eficaz para abordar los inevitables desafíos sociales que surgen con la nueva tecnología.