Ilya Sutskever, cofundador y ex director científico de OpenAI, ha fundado Safe Superintelligence Inc. (SSI) con el objetivo de desarrollar una superinteligencia segura, libre de intereses comerciales. Esta iniciativa ha captado una significativa inversión, incluyendo 5.000 millones de dólares de Nvidia, y busca una ruta alternativa para la IA avanzada, priorizando la seguridad y la comprensión profunda de la inteligencia.
Ilya Sutskever no es un científico de inteligencia artificial (IA) común. Su formación en informática tuvo lugar bajo la tutela de Geoffrey Hinton en la Universidad de Toronto, una figura clave en el desarrollo del aprendizaje profundo. Junto a Hinton y Alex Krizhevsky, Sutskever co-desarrolló AlexNet, una red neuronal avanzada que se considera un hito en la revolución actual de la IA. Después de trabajar en Google Brain de 2013 a 2015, cofundó OpenAI en 2015, donde asumió el rol de director científico.
A Sutskever se le atribuye la idea de que aumentar progresivamente la escala de los modelos de IA con más parámetros, datos y capacidad de computación podría generar avances significativos. Esta estrategia fue fundamental para la creación de la familia GPT, a la cual pertenece ChatGPT. Sin embargo, con el tiempo, Sutskever comenzó a alejarse de esta visión centrada en el escalado, preocupándose más por las posibles consecuencias de una IA muy avanzada que pudiera amenazar los intereses humanos. Esta preocupación lo llevó a liderar el equipo de alineamiento de modelos en OpenAI, pero sus prioridades entraron en conflicto con las de Sam Altman, culminando en su salida de la compañía en mayo de 2024.
Poco después de dejar OpenAI en 2024, Sutskever fundó Safe Superintelligence Inc. (SSI) junto a Daniel Levy y Daniel Gross. Su objetivo es desarrollar una superinteligencia segura, cuya creación no se vea comprometida por intereses comerciales. Inicialmente, esto era solo una declaración de intenciones, pero en menos de un año, SSI logró recaudar 1.000 millones de dólares y luego 2.000 millones más en dos rondas de financiación, elevando el valor de la compañía a 32.000 millones de dólares.
Nvidia ha invertido 5.000 millones de dólares en SSI y se ha comprometido a brindarle acceso a su plataforma Vera Rubin.
Aunque Sutskever ha delineado públicamente las directrices de SSI en varias declaraciones y entrevistas, el trabajo de la compañía se ha mantenido en gran medida en secreto. No obstante, un hecho relevante es el anuncio del 27 de julio sobre una alianza estratégica a largo plazo entre Nvidia y SSI. La compañía de Jensen Huang ha invertido 5.000 millones de dólares en la empresa de Sutskever y le proporcionará acceso a su potente plataforma Vera Rubin. Es razonable inferir que Nvidia no habría hecho una inversión tan cuantiosa sin una confianza considerable en el progreso del equipo de Sutskever.
Oficialmente, se desconoce el estado actual del proyecto de SSI, así como la arquitectura de la superinteligencia artificial en desarrollo, sus métodos de entrenamiento y la fecha de su finalización. Sin embargo, la información disponible permite hacer varias deducciones lógicas.
Sutskever ha expresado públicamente su interés en comprender los mecanismos precisos que impulsan el razonamiento, el aprendizaje, la comprensión y la generalización, postulando que aún no se conoce qué hace posible la inteligencia. En cualquier caso, SSI busca un camino alternativo hacia una IA mucho más avanzada, que podría no depender de los grandes modelos de lenguaje actuales. Nvidia, por su parte, busca posicionarse a la vanguardia de una posible revolución que podría estar más cerca de lo que se percibe sin un conocimiento detallado del trabajo de SSI.
