Un ingeniero británico que trabajó en OpenAI y Anthropic decidió abandonar esta última compañía y hacer pública su preocupación por el rumbo que está tomando el desarrollo de la inteligencia artificial.
Coxon explicó en X que pasó los últimos tres años realizando investigaciones de preentrenamiento tanto en OpenAI como en Anthropic y sostuvo que ambas compañías “no están actuando con responsabilidad” y están “jugando con nuestras vidas”.
¿Por qué renunció el ingeniero?
Según Coxon, la industria está inmersa en una carrera para desarrollar sistemas que eventualmente podrían superar ampliamente las capacidades humanas y llegar a mejorar sus propias capacidades.
El ingeniero considera que algunos investigadores y responsables del sector son conscientes de que una inteligencia artificial avanzada podría representar un riesgo extremo para la humanidad, pero aun así las compañías continúan compitiendo por alcanzar primero sistemas cada vez más poderosos.
Coxon sostiene que Anthropic comprende mejor que otras empresas los desafíos relacionados con la seguridad de la IA, pero considera que también está atrapada en la carrera por avanzar rápidamente.
Por ello, plantea que los laboratorios deberían coordinarse y adoptar medidas costosas, incluida una pausa temporal en el incremento de las capacidades de los modelos, hasta que existan mayores garantías de seguridad.
Investigador de Anthropic estima un riesgo superior al 10%
Las declaraciones de Coxon adquirieron mayor repercusión después de que Evan Hubinger, investigador de Anthropic especializado en alineamiento de sistemas de IA, respondiera públicamente.
Hubinger afirmó que Coxon tiene razón al señalar que dentro del sector existe una preocupación real sobre la posibilidad de que una IA avanzada pueda acabar con la humanidad.
El investigador fue incluso más contundente al ofrecer su propia estimación: considera que existe una probabilidad superior al 10% durante la próxima década de que la inteligencia artificial pueda matar a todos los seres humanos.
Sin embargo, Hubinger hizo una importante precisión: no considera que los modelos actuales representen ese nivel de amenaza.
Su preocupación está relacionada principalmente con una eventual superinteligencia que pueda surgir mediante un proceso de automejora recursiva, en el que los sistemas sean capaces de contribuir al desarrollo de nuevas generaciones de inteligencia artificial de manera cada vez más rápida.
¿Qué preocupa de la superinteligencia?
La llamada superinteligencia hace referencia, de manera hipotética, a sistemas de IA capaces de superar a los seres humanos en prácticamente todos los ámbitos intelectuales.
El temor expresado por estos investigadores no se centra simplemente en que una IA pueda cometer errores o entregar información incorrecta, sino en que sistemas mucho más avanzados puedan adquirir capacidades para operar con mayor autonomía, acceder a recursos y modificar o mejorar sus propias capacidades.
Coxon considera que, si la industria continúa avanzando sin coordinación suficiente, podría llegar un momento en que las empresas desarrollen sistemas cuyas capacidades sean difíciles de controlar.
Una advertencia que vuelve a poner el foco en la seguridad de la IA
La renuncia de Coxon se suma a otras advertencias realizadas durante los últimos años por científicos e investigadores que han trabajado directamente en el desarrollo de inteligencia artificial.
Uno de los casos más conocidos es el de Geoffrey Hinton, considerado uno de los pioneros de las redes neuronales y ganador del Premio Nobel de Física de 2024, quien dejó Google en 2023 y posteriormente expresó públicamente su preocupación por los riesgos asociados al desarrollo de sistemas cada vez más avanzados.
También exempleados de OpenAI han manifestado preocupación por la velocidad con la que avanza esta tecnología y por las condiciones existentes para que los trabajadores puedan denunciar posibles problemas relacionados con la seguridad.
El debate vuelve ahora a cobrar fuerza desde dentro de Anthropic: mientras la industria acelera el desarrollo de modelos más capaces, investigadores como Coxon y Hubinger cuestionan si los mecanismos de seguridad avanzan al mismo ritmo.
FUENTE: EFE
