Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, anunció su salida de esta última empresa y señaló que las compañías de inteligencia artificial están desarrollando sistemas con capacidades cada vez mayores. El investigador advirtió que existe una competencia entre las empresas por alcanzar una inteligencia artificial superior a la humana.
Coxon también señaló que quienes trabajan en el desarrollo de estos sistemas conocen los posibles riesgos. De acuerdo con sus declaraciones, las empresas continúan avanzando pese a la posibilidad de que una inteligencia artificial con capacidades superiores pueda generar consecuencias para la humanidad.
Tras las declaraciones de Coxon, Evan Hubinger, investigador de Anthropic, se refirió al mismo tema. Hubinger afirmó que existe una posibilidad de que una inteligencia artificial pueda provocar la muerte de todos los seres humanos y calculó que el riesgo podría superar el 10 por ciento durante la próxima década.
Hubinger explicó que considera bajo el riesgo relacionado con los modelos actuales de inteligencia artificial. Su preocupación se concentra en el desarrollo de una posible superinteligencia capaz de mejorar sus propias capacidades, ya que este proceso podría avanzar a una velocidad que dificulte mantener el control sobre el sistema.
Coxon es investigador especializado en inteligencia artificial y ha participado en trabajos relacionados con el desarrollo de modelos de lenguaje. Por su parte, Hubinger estudió Ciencias de la Computación y actualmente dirige investigaciones sobre seguridad y alineamiento de sistemas de inteligencia artificial en Anthropic. Sus declaraciones pusieron nuevamente en discusión los riesgos asociados con el desarrollo de sistemas que puedan superar las capacidades humanas.
