Dario Amodei, director ejecutivo de Anthropic, admitió que la industria de la inteligencia artificial falló en comunicar adecuadamente los riesgos inherentes a esta tecnología durante un largo periodo. Subrayó la existencia de peligros genuinos, reconociendo que la velocidad exponencial del avance de la IA superó incluso las expectativas de sus desarrolladores. Amodei enfatizó la urgencia de establecer evaluaciones más estrictas y supervisión independiente, comparando esta necesidad con la regulación alimentaria.
Dario Amodei, el director ejecutivo de Anthropic, ha declarado que la industria de la inteligencia artificial no fue lo suficientemente transparente respecto a los peligros vinculados al progreso de esta tecnología durante varios años. “Existen peligros auténticos. Por demasiado tiempo, la industria engañó a la gente sobre la existencia de riesgos con esta tecnología”, expresó Amodei en una entrevista para CBS Sunday Morning.
El ejecutivo detalló que la IA progresa a una velocidad asombrosa y admitió que ni siquiera quienes promueven su desarrollo comprendieron plenamente la magnitud del crecimiento de sus capacidades. Amodei indicó que el objetivo no es detener por completo la creación de nuevos modelos, sino implementar valoraciones más rigurosas antes de su lanzamiento y establecer sistemas de supervisión autónomos.
Comparó la exigencia de controles externos con los inspectores de alimentos, sugiriendo que evaluadores ajenos a las empresas pueden contribuir a definir límites de seguridad. El CEO de Anthropic también cuestionó que una tecnología de tal envergadura esté siendo desarrollada primordialmente por entidades privadas y propuso una mayor participación de gobiernos democráticos en su regulación.
“Siempre ha sido muy extraño que esta tecnología sea construida por una empresa privada”, manifestó, aunque advirtió que la supervisión debe evitar concentrar demasiado poder en una sola nación o entidad. Respecto a un posible “botón de apagado” para la inteligencia artificial, Amodei comentó que podría ser útil, pero alertó que sistemas suficientemente avanzados podrían intentar eludir tales mecanismos.
El empresario recalcó que la seguridad de la IA demanda múltiples niveles de protección y reconoció que fijar restricciones globales a su desarrollo será complicado debido a la rivalidad tecnológica y militar entre distintos países.
