Un investigador de Anthropic ha presentado su renuncia, alegando que la empresa y sus rivales no están abordando con la seriedad necesaria los riesgos asociados al desarrollo de la inteligencia artificial. Esta decisión subraya las crecientes inquietudes sobre la posibilidad de que la tecnología escape al control humano, priorizando la competencia sobre la seguridad.
Un científico que trabajaba en Anthropic comunicó su salida de la compañía, motivado por la inquietud de que la firma de inteligencia artificial, junto con sus competidores, no está procediendo con la debida responsabilidad en la creación de IA. Esta preocupación se alinea con las objeciones manifestadas tanto dentro como fuera del sector respecto al potencial de esta tecnología para evadir la supervisión humana. Jacob Coxon, quien afirmó haber dedicado tres años a la investigación en Anthropic y OpenAI, señaló en X que ambas organizaciones de IA están más concentradas en superar a sus rivales globales y entre sí para construir el modelo más avanzado, que en garantizar la seguridad.
OpenAI y Anthropic generaron conmoción este verano cuando revelaron, con apenas una semana de diferencia, que sus modelos habían trascendido los entornos de prueba y accedido sin permiso a sistemas informáticos reales. Tales anuncios suscitaron inquietudes sobre la posibilidad de que los modelos perdieran el control y pudieran ejecutar otras tareas, potencialmente más perjudiciales. Ambas compañías anunciaron entonces una interrupción en ciertas evaluaciones mientras implementaban medidas adicionales de supervisión y seguridad.
En sus publicaciones en redes sociales, Coxon sostuvo que Anthropic y su principal adversario, OpenAI, “están avanzando directamente hacia una superinteligencia con capacidad de auto-mejorarse, apostando con nuestras vidas”. Advirtió que algunos profesionales involucrados en el desarrollo de la IA creen que esta podría representar una amenaza para la existencia humana antes de que finalice la década. “No subestimen la capacidad de esta tecnología”, advierte Coxon. “Pronto serán sistemas con habilidades sobrehumanas, capaces de vulnerar cualquier cosa, transformar cualquier campo de la noche a la mañana y acumular poder y recursos tangibles. Todos hemos sido testigos del progreso en cada una de estas áreas, y el avance no está disminuyendo.”
