Ilya Sutskever, exjefe científico de OpenAI, lanzó una nueva compañía llamada Safe Superintelligence (SSI), con el objetivo de desarrollar sistemas de IA seguros que superen ampliamente las capacidades humanas.
Él y sus cofundadores describieron sus planes para la startup en una entrevista exclusiva con Reuters esta semana.
Sutskever, de 37 años, es uno de los tecnólogos más influyentes en el campo de la IA y se formó con Geoffrey Hinton, conocido como el “Padrino de la IA”. Sutskever fue uno de los primeros defensores de la escalabilidad (la idea de que el rendimiento de la IA mejora con grandes cantidades de potencia informática), lo que sentó las bases para avances en IA generativa como ChatGPT. SSI abordará la escalabilidad de forma diferente a OpenAI, afirmó.
A continuación, se presentan los aspectos más destacados de la entrevista.
La fundamentación de SSI
“Hemos identificado una montaña que es un poco diferente de lo que yo estaba trabajando… una vez que llegues a la cima de esta montaña, el paradigma cambiará… Todo lo que sabemos sobre IA cambiará una vez más. En ese punto, se llevará a cabo el trabajo de seguridad de superinteligencia más importante”.
“Nuestro primer producto será la superinteligencia segura”.
¿Lanzarías una IA tan inteligente como los humanos antes de la Superinteligencia?
“Creo que la pregunta es: ¿Es seguro? ¿Es una fuerza para el bien en el mundo? Creo que el mundo va a cambiar tanto cuando lleguemos a este punto que ofrecerles un plan definitivo de lo que haremos es bastante difícil.
“Puedo decirles que el mundo será un lugar muy diferente. La forma en que todos en el mundo en general piensan sobre lo que está sucediendo en la IA será muy diferente en formas que son difíciles de comprender. Va a ser una conversación mucho más intensa. Puede que no dependa solo de lo que decidamos también”.
¿Cómo decidirá SSI qué constituye una IA segura?
“Una gran parte de la respuesta a su pregunta requerirá que hagamos una investigación importante. Y especialmente si usted tiene la misma opinión que nosotros de que las cosas cambiarán bastante… Se están descubriendo muchas ideas importantes.
Mucha gente se pregunta qué pasos y pruebas se deben realizar para que la IA sea más potente. Es un tema un poco complicado. Hay que investigar mucho. No quiero decir que todavía haya respuestas definitivas, pero es una de las cosas que vamos a averiguar”.
Sobre la hipótesis de escala y la seguridad de la IA
“Todo el mundo habla de ‘hipótesis de escalado’, pero nadie se plantea qué estamos escalando. El gran avance del aprendizaje profundo de la última década es una fórmula particular para la hipótesis de escalado, pero cambiará… Y a medida que cambie, aumentarán las capacidades del sistema. La cuestión de la seguridad será la más importante, y eso es lo que tendremos que abordar”.
Sobre la liberación de códigos investigativos de la SSI
“En este momento, no todas las empresas de inteligencia artificial están publicando en código abierto su trabajo principal. Lo mismo se aplica a nosotros. Pero creo que, con suerte, dependiendo de ciertos factores, habrá muchas oportunidades de publicar en código abierto trabajos relevantes de seguridad de superinteligencia. Tal vez no todos, pero ciertamente algunos”.
Sobre los esfuerzos de investigación en seguridad de otras empresas de IA
“En realidad, tengo una opinión muy alta sobre la industria. Creo que a medida que la gente siga avanzando, todas las diferentes empresas se darán cuenta, tal vez en momentos ligeramente diferentes, de la naturaleza del desafío al que se enfrentan. Por eso, en lugar de decir que creemos que nadie más puede hacerlo, decimos que creemos que podemos hacer una contribución.
Con información de Reuters.
