Jacob Coxon, un ingeniero británico de Anthropic y OpenAI, acusó a las compañía de desarrollo de Inteligencia Artificial (IA) de no actuar con responsabilidad y jugar con las vidas de las personas.
La denuncia la realizó en su cuenta de X, luego de haber dejado su puesto como desarrollador en Anthropic.
Desde hace varios años se han registrado varias denuncias o críticas abiertas a la IA. Por ejemplo, en 2023, Geoffrey Hinton, ganador del Nobel de Física, renunció a su puesto en Google, con el fin de poder señalar los riesgos de la Inteligencia Artificial; mientras, en 2024, exempleados de OpenAI lamentaron la falta de leyes para regular a estos desarrollos tecnológicos.
Te puede interesar: OpenAI, Anthropic, Google, Microsoft… piden a gobiernos y empresas aumentar ciberseguridad ante riesgo de ataques con IA
¿Qué dijo el ingeniero sobre la IA de Anthropic y OpenAI?
De acuerdo con Coxon, tanto Anthropic como OpenAI “no están actuando con responsabilidad”, pues sus ejecutivos subestiman el poder de la IA; además, alertó que estas tecnologías “serán prontos sistemas sobrehumanos que pondrán hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos”.
A la par, dijo que incluso los ejecutivos de las compañías “creen que podrá matarnos a todos al final de la década”, ya que “no hay otra actividad humana que suponga este nivel de amenaza”.
Coxon también acusó que aunque las dos empresas tienen noción de los peligros, Anthropic “tal vez no ha internalizado en profundidad los retos civilizacionales”; mientras, en OpenAI están más conscientes, pero están atrapados en la carrera por “llegar primero”.
La renuncia y denuncia de Coxon han generado un sinfín de comentarios de apoyo, entre ellos el del senador estadounidense Bernie Sanders, quien anunció que presentará una iniciativa para “prohibir la superinteligencia y pausar el desarrollo de la IA”.
En tanto, un investigador de Anthropic, llamado Evan Hubinger, consideró que el riesgo de que los modelos de IA acaben a la humanidad son bajos.
“Jacob tiene razón aquí: realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10% dentro de la próxima década”. Añadió que el mayor riesgo que ve es que el “automejoramiento recursivo” ocurre más rápido de lo que piensan.
