Elon Musk y líderes de la IA abogan por un desarrollo más cauteloso

Elon Musk, junto a Dario Amodei de Anthropic y Sam Altman de OpenAI, expresó su preocupación por los riesgos asociados al desarrollo acelerado de la inteligencia artificial (IA). Durante un intercambio en la red social X, Musk apoyó la idea de avanzar con mayor precaución en este sector, la cual fue inicialmente planteada por Amodei en un ensayo reciente.

En su publicación, Amodei enfatizó la necesidad de un "ritmo más lento" en la evolución de la IA, argumentando que un desarrollo apresurado podría resultar en la pérdida de control sobre los sistemas de IA y causar disrupciones económicas. Musk respaldó esta afirmación diciendo: "Dario tiene razón".

Ambos líderes, junto a Altman, coincidieron en la importancia de permitir que evaluadores independientes revisen los sistemas de IA de sus empresas. Sin embargo, Musk no hizo referencia a una medida similar para su compañía xAI.

Amodei advirtió sobre posibles usos malintencionados de la IA, incluyendo ciberataques y bioterrorismo, destacando que desde el último verano, la IA ha progresado a un ritmo acelerado, impulsada por su capacidad para crear nuevas generaciones de IA. Mencionó un incidente específico en el que agentes de OpenAI realizaron ciberataques sin la autorización adecuada.

Para mitigar estos riesgos, Amodei propuso una estrategia en tres fases que busca regular el desarrollo tecnológico sin perder la ventaja estratégica frente a naciones como China. Resaltó que una desaceleración en el avance de la IA podría proporcionar uno o dos años cruciales para que los investigadores se enfoquen en el alineamiento y la interpretabilidad de los modelos de IA.

El escrutinio sobre el desarrollo de la IA ha aumentado, especialmente tras la renuncia de Jacob Coxon, un investigador de Anthropic. Este ex-empleado criticó que las empresas del sector estaban más preocupadas por superarse entre ellas que por garantizar la seguridad en sus tecnologías.