Tan solo un día después que uno de sus ingenieros dimitiese convencido de que la inteligencia artificial "podría matarnos a todos antes de que acabe la década", Anthropic ha elegido este jueves para revelar que en 2026 ha frustrado varios intentos de científicos que pretendían utilizar sus modelos para realizar investigaciones que podrían haber ayudado a desarrollar armas biológicas.

En un extenso informe, la influyente start-up de IA generativa detalla múltiples casos de uso indebido de su tecnología, que detectó y bloqueó antes de que pudiesen llevarse a cabo. Entre ellos, por parte de medios estatales de Rusia para generar propaganda en línea camuflada como información independiente o por parte de presuntos actores vinculados a China e Irán interesados en vigilar a los críticos con sus gobiernos.

En el caso de la investigación biológica, Anthropic ha afirmado que no pudo determinar si tenía un propósito legítimo o malintencionado. El uso de Claude podía ser para una finalidad válida, como alcanzar avances en vacunas, pero también para una maliciosa, como crear patógenos peligrosos, uno de los temores que más inquietan a los expertos en IA.

"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explica la investigación. "Es una situación increíblemente matizada", ha añadido Jacob Klein, responsable de inteligencia sobre amenazas.

Ante esa incertidumbre, la compañía dirigida por Dario Amodei optó por la precaución y bloqueó esos usos.

Noticias relacionadas

Anthropic, que se prepara para lanzar la que podría ser la mayor salida a bolsa de la historia, también asegura haber documentado un nuevo uso indebido de sus herramientas: desarrollar software destinado a diseñar armas de fuego, bombas, drones armados o misiles. La empresa detectó tres casos en China, dos en Rusia y uno en Yemen.

Suscríbete para seguir leyendo