Anthropic afirma haber bloqueado una posible iniciativa relacionada con armas biológicas

Anthropic suspendió cuentas que posiblemente intentaban utilizar su modelo de IA, Claude, para crear armas biológicas. La empresa lo anunció este jueves, revelando los hallazgos de una investigación pocos días después de que expertos en IA alertaran sobre el riesgo de que asistentes digitales cada vez más potentes pudieran provocar la extinción de la humanidad.

Datos clave

En un informe publicado este jueves, Anthropic comunicó que bloqueó una solicitud de asistencia a Claude para redactar una petición de financiación científica destinada a investigar la modificación genética del virus chikungunya, transmitido por mosquitos.

De acuerdo con Anthropic, el proyecto buscaba aumentar la peligrosidad de este virus —que tiene una tasa de mortalidad muy baja pero provoca dolores articulares y musculares prolongados—, aunque la empresa reconoció que investigaciones similares podrían emplearse para desarrollar vacunas o tratamientos contra el virus.

Sin embargo, la investigación también podría utilizarse para hacer el virus más peligroso. Anthropic consideró que el proyecto no era tan inofensivo como parecía, ya que, si bien la solicitud de financiación sugería la participación de investigadores civiles, estaba previsto que el estudio se llevara a cabo en un instituto de investigación militar.

Anthropic no reveló los nombres ni las afiliaciones de las instituciones o investigadores posiblemente implicados; no obstante, señaló que suspendió todas las cuentas relacionadas, desmanteló redes de retransmisión que eludían sus bloqueos regionales y compartió sus hallazgos con otros laboratorios de IA y con el gobierno federal.

Cita clave

“Deducimos, a partir de la existencia de estos materiales de investigación, que el proyecto no se limitaba a una propuesta de financiación”, afirmó Anthropic en su informe. “Estamos suspendiendo las cuentas que detectamos asociadas a este conjunto de actividades y seguimos incorporando los resultados de nuestra investigación a nuevas medidas para detectar y evitar que estos actores hagan un uso indebido de los servicios de Anthropic”.

Noticia destacada

Un antiguo empleado de OpenAI y Anthropic, así como un trabajador actual de Anthropic, declararon esta semana que existe la posibilidad de que la IA provoque la extinción de la humanidad en la próxima década.

Evan Hubinger, responsable de los esfuerzos de Anthropic para alinear las funciones de la IA con los objetivos y valores humanos, afirmó que, a título personal, cree que existe una probabilidad superior al 10% de que “la IA acabe con todos los seres humanos” en los próximos 10 años si el desarrollo continúa a su ritmo actual de aceleración vertiginosa.

Contexto clave

La estimación de Hubinger surgió en respuesta a una publicación de Jacob Coxon —investigador de Anthropic que recientemente renunció a la empresa tras una breve estancia en ella—, quien alegaba que las compañías de IA no estaban actuando de manera responsable al “precipitarse hacia una superinteligencia capaz de automejorarse y jugar con nuestras vidas”.

Coxon añadió que los investigadores del sector creen que dicha tecnología podría “acabar con todos nosotros para finales de la década” y aseguró que sus declaraciones no constituían una “maniobra publicitaria”.

Las publicaciones de Coxon y Hubinger suscitaron peticiones de legisladores para aprobar una ley que establezca un mecanismo de desconexión de emergencia (kill switch) para la IA; en este contexto, el senador Bernie Sanders (independiente por Vermont) prometió presentar un proyecto de ley para prohibir la superinteligencia y pausar el desarrollo de la IA.

Por su parte, el presidente Donald Trump ha sido un firme defensor del desarrollo de la IA en Estados Unidos, alentando a las comunidades del país a aceptar la construcción de centros de datos y respaldando la carrera armamentística en materia de IA frente a China.