Recientemente, un experto de Anthropic sugirió un 10% de probabilidad de que la IA termine con la humanidad, especialmente a través del diseño de supervirus. Sin embargo, otros especialistas argumentan que, aunque las herramientas de IA en biología avanzan, la complejidad de la experimentación en el mundo físico y las defensas humanas hacen que esta amenaza sea una exageración. La distinción entre el diseño digital y la implementación biológica real es crucial para entender los verdaderos desafíos.
Evan Hubinger, líder de alineamiento en Anthropic, generó controversia al afirmar en X (anteriormente Twitter) que existe un 10% de posibilidades de que la inteligencia artificial cause la extinción de la raza humana. Aunque esta idea ha sido planteada por otras figuras en el pasado, y si bien tales escenarios no son imposibles, el porcentaje mencionado es una estimación subjetiva sobre una tecnología aún no plenamente desarrollada. Es fundamental entender que existe un vasto trecho entre el diseño de un virus en un entorno digital y su capacidad real para erradicar a 8.000 millones de personas.
Una de las hipótesis recurrentes es que una futura superinteligencia podría diseñar un virus devastador. Las herramientas de IA aplicadas a la biología están mejorando rápidamente, y ya existen modelos capaces de crear virus funcionales que infectan bacterias, lo que ha llevado a algunos a temer un aumento en el riesgo de desarrollo de armas biológicas. No obstante, es importante señalar que estos experimentos requirieron científicos de élite, laboratorios avanzados, numerosos recursos y cientos de pruebas. Además, los modelos actuales no pueden diseñar virus que infecten a seres humanos.
David Bellamy, del Institute of Foundation Models, explicó en X, basándose en su experiencia entrenando modelos frontera y diseñando virus personalizados, que la amenaza de la que algunos hablan es una "farsa total".
Bellamy coincide en que un Modelo de Lenguaje Grande (LLM) podría diseñar un genoma viral que sea sintetizable e incluso infeccioso, o modificar un virus conocido. Sin embargo, enfatiza que este no es el punto crítico. El verdadero desafío, según él, reside en crear un patógeno con propiedades muy específicas que sea capaz de superar las defensas humanas, lo cual requiere experimentación repetida en el mundo físico.
La diferencia entre lo digital y lo físico es esencial. La mejora recursiva de una IA es muy efectiva en campos como la programación o las matemáticas, donde las soluciones pueden generarse y probarse millones de veces de inmediato. Pero la biología opera de manera distinta: implica la síntesis de material, el cultivo de células y la realización de experimentos, un proceso limitado por las leyes de la física.
Bellamy argumenta que incluso con instalaciones de más de 100 millones de dólares, equipadas con la tecnología necesaria y controlables mediante APIs para que una IA experimente sin intervención humana, aún existirían barreras. Tales instalaciones no existen hoy, y él mismo ha trabajado en proyectos similares, destacando que se enfrentarían a los controles impuestos por los proveedores de síntesis genética. La Academia Nacional de Ciencias de EE. UU. ha advertido que, a pesar de los avances en ingeniería genética para modificar patógenos, nuestro conocimiento biológico es limitado, y muchos cambios genéticos, en lugar de mejorar un virus, lo debilitan.
La historia nos muestra que la Peste Negra diezmó entre el 30% y el 50% de la población europea entre 1347 y 1352. Las enfermedades traídas a América tras el descubrimiento causaron hasta el 90% de muertes en algunas poblaciones indígenas, y la gripe de 1918 mató entre el 1% y el 5% de la población mundial. Estas catástrofes fueron inmensas, pero ninguna estuvo cerca de extinguir a la raza humana.
La humanidad ha demostrado su instinto de supervivencia. El siglo pasado, sobrevivimos a dos guerras mundiales, una de las cuales llevó a la creación de la bomba atómica. Durante la Guerra Fría, acumulamos miles de cabezas nucleares y estuvimos peligrosamente cerca de usarlas. Seguimos aquí porque reaccionamos ante las amenazas: desarrollamos sistemas de alerta, vacunas, antibióticos, refugios, tratados y organismos internacionales. Las amenazas evolucionan, pero también lo hacen nuestras defensas.
Sin embargo, sería un error creer que el ser humano es indestructible. Un patógeno diseñado por una IA superior podría poseer propiedades que superen la evolución natural y podría combinarse con ciberataques o sabotajes de infraestructuras para mermar nuestra capacidad de respuesta. Aún así, la historia demuestra que una cosa es causar millones de muertes y otra muy distinta es erradicar a toda la humanidad.
Una superinteligencia podría, en teoría, superar a los virólogos más expertos, descubrir mecanismos biológicos desconocidos e incluso producir y liberar un patógeno masivamente. Aunque no se puede descartar por completo tal escenario, las estimaciones sobre este riesgo y sus plazos son extremadamente ambiguas.
Este tipo de discurso catastrofista no es nuevo. En 2019, OpenAI inicialmente no lanzó la versión completa de GPT-2 por temor a su uso para desinformación o phishing. Lo liberó por etapas y, meses después, reconoció no haber observado abusos significativos que justificaran mantenerlo restringido. Siete años después, Anthropic utilizó una narrativa similar, aunque con capacidades más preocupantes, al restringir Mythos por su capacidad para encontrar vulnerabilidades graves y facilitar ciberataques, lo que llevó a Nature a cuestionar si inauguraba la era de los modelos "demasiado peligrosos para ser publicados".
Ciertamente, la situación ha cambiado. Mythos es mucho más capaz que GPT-2 y sus riesgos no son directamente comparables. Sin embargo, el precedente invita a la cautela: la historia de la IA está llena de capacidades que parecían extraordinariamente peligrosas en su aparición y que luego resultaron más manejables una vez que se observaron sus efectos en el mundo real. Esto no invalida las advertencias actuales, pero sí subraya la importancia de distinguir entre un riesgo anticipado y uno ya demostrado.
