Los máximos responsables de Anthropic y OpenAI señalaron la necesidad de frenar el desarrollo acelerado de los modelos avanzados de inteligencia artificial y fortalecer la fiscalización externa, una postura que también recibió el apoyo público de Elon Musk. El debate se intensificó tras la salida del investigador Jacob Coxon de Anthropic, quien cuestionó la velocidad y las condiciones en las que se impulsa esta tecnología.
Coxon alertó sobre los peligros de que pocas firmas privadas compitan por crear sistemas más capaces sin la supervisión necesaria para una herramienta que podría superar las habilidades humanas. Ante esta situación, el director ejecutivo de Anthropic, Dario Amodei, difundió un texto llamado “We Must Pace the Frontier” donde planteó que el sector debe bajar la marcha para que los protocolos de seguridad alcancen el ritmo de evolución de los sistemas.
“Escribí un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan de tres partes para hacerlo”, indicó Amodei. Como medida inicial, la firma permitirá que auditores externos ingresen de forma permanente a sus plataformas en iguales condiciones que el personal interno para revisar las pautas de seguridad, avisar sobre fallas y chequear el alineamiento durante la etapa de entrenamiento.
Sam Altman, director ejecutivo de OpenAI y competidor directo en el rubro, apoyó la iniciativa y comentó que el asunto fue central en los debates internos de su empresa durante las últimas semanas. “Estoy de acuerdo con Dario en que necesitamos moderar el avance de la frontera”, expresó.
Asimismo, Altman informó que su compañía adoptará la misma medida y brindará a auditores independientes un acceso equivalente al de sus trabajadores para supervisar los modelos. “Es una gran idea y nosotros haremos lo mismo”, sostuvo.
A estas posturas se sumó el propietario de SpaceX y fundador de xAI, Elon Musk, quien expresó su respaldo al titular de Anthropic con la frase “Dario tiene razón”. De este modo, la coincidencia entre los referentes amplió un debate sobre cómo vigilar una tecnología cuyo avance se acelera por la disputa comercial entre las corporaciones.
La dificultad principal surge de los incentivos comerciales que empujan a cada empresa a anticiparse a sus competidores, mientras las estructuras de regulación precisan plazos mayores para identificar los peligros vinculados al incremento de la autonomía y las capacidades técnicas. Las declaraciones de Coxon, Amodei, Altman y Musk dejan en evidencia la contradicción actual de la industria, donde las mismas firmas que llevan al límite el desarrollo tecnológico admiten ahora que esa velocidad representa un riesgo significativo.