Blog

OpenAI, Anthropic, Google, Microsoft… piden a gobiernos y empresas aumentar ciberseguridad ante riesgo de ataques con IA

3
ataques ia
Foto: Pixabay.
Anuncios

Un centenar de empresas relacionadas con la Inteligencia Artificial (IA), entre las que se encuentran OpenAI, Anthropic, Google y Microsoft, pidieron, una carta abierta, a gobiernos y empresas fortalecer la ciberseguridad de los servicios públicos, antes de que la tecnología los pueda poner en riesgo y se registren ataques sofisticados.

La advertencia se da semanas después de que varias desarrolladoras de IA informaran que algunos de sus modelos intentaron burlar esquemas de seguridad o que incluso intentaran hackear a otras compañías.

Anuncios

Te puede interesar: OpenAI revela que una de sus IA ‘burló’ los controles en prueba de ciberseguridad y hackeó a una plataforma

¿Qué pidieron las empresas de IA a gobiernos sobre los ataques con IA?

En su carta, empresas relacionadas con el desarrollo de la IA advirtieron que existe una “ventana muy limitada” para fortalecer las ciberdefensas de gobiernos y de empresas, pues en los próximos meses podrían ocurrir ataques cibernéticos.

Anuncios

La carta solicita a los gobiernos coordinarse a nivel local, nacional e internacional, con el fin de proteger espacios como hospitales, planas de agua y sistema locales.

@ruidoenlaredoficial

🤖👀 ¿La IA se está saliendo de control? Durante una prueba de ciberseguridad realizada por investigadores del Reino Unido, un modelo de Inteligencia Artificial se hizo pasar por una persona real para intentar que desarrolladores aprobaran un código que fue calificado de malicioso. ✍ Guion: @YuNava 🖥 Producción: José Luis Cruz

♬ sonido original – Ruido en la Red – Ruido en la Red

Las compañías advirtieron que estos ataques podrían ocurrir a “empresas y servicios públicos de los que dependen nuestras sociedades”, entre los que se encontraría infraestructura, servicios de telecomunicaciones y de salud.

A las empresas les pidieron aumentar sus estándares de seguridad, así como “hacer de la ciberdefensa una prioridad inmediata”.

Mientras, a las otras desarrolladoras de Inteligencia Artificial les solicitaron “liderar la respuesta en la defensa de ataques sostenidos facilitados por la IA”, así como a dar “acceso responsable a los modelos, fondos importantes, formación y apoyo cercano», sobre todo a entidades de infraestructuras clave con pocos recursos, y garantizar que «las identidades agénticas son rastreables y responsables”.

@ruidoenlaredoficial

🤖 Más de 1,200 investigadores, ingenieros y especialistas en inteligencia artificial pidieron que el desarrollo de esta tecnología no avance más rápido que nuestra capacidad para entender sus riesgos. La preocupación no es que una IA «tome el control del mundo», sino problemas más cercanos: desinformación a gran escala, fraudes más sofisticados, deepfakes y decisiones automatizadas que afectan a personas sin que sepamos cómo se tomaron.

♬ sonido original – Ruido en la Red – Ruido en la Red
Anuncios
Escrito por
Juan Pedro Salazar

Editor con nueve años en medios de comunicación. Leo y escribo sobre temas hard, soft y deportes. Fan del futbol, de los atardeceres y de la empatía.