El empresario recuerda que la decisión de lanzar ChatGPT fue polémica dentro de OpenAI, pero el comportamiento de los usuarios confirmó su potencial
El 30 de noviembre de 2022, el tráfico del sitio web de OpenAI alcanzó un número apenas superior a cero. Era una startup tan pequeña y tranquila que los propietarios no se molestaban en rastrear el tráfico web. Fue un día tranquilo, el último día tranquilo que la compañía conocería. En dos meses, OpenAI estaba siendo bombardeada por más de 100 millones de visitantes que intentaban, y se sorprendían, con ChatGPT. Nada ha sido igual para nadie desde entonces, especialmente para Sam Altman.
En su entrevista más extensa como director ejecutivo, Altman explica su infame despido de cuatro días, cómo dirige OpenAI realmente, sus planes para la presidencia de Trump-Musk y su búsqueda implacable de la inteligencia general artificial, la próxima fase aún teórica de la IA en la que las máquinas serán capaces de realizar cualquier tarea intelectual que un humano pueda hacer. Editado para mayor claridad y extensión.
– Tu equipo sugirió que este sería un buen momento para revisar los últimos dos años, reflexionar sobre algunos eventos y decisiones, y aclarar algunas cosas. Pero antes de hacer eso, ¿puedes contar de nuevo la historia de la cena fundacional de OpenAI? Porque parece que el valor histórico de ese evento aumenta día a día.
Todo el mundo quiere una historia ordenada en la que hay un momento único en el que algo sucede. Conservadoramente, diría que hubo unas 20 cenas fundacionales ese año [2015], y luego una termina entrando en el canon, y todos hablan de esa. Para mí, la más importante personalmente fue Ilya y yo en The Counter en Mountain View [California]. Solo los dos.
Retrocediendo aún más, siempre estuve muy interesado en la IA. La estudié como estudiante de licenciatura. Me distraje por un tiempo, y luego llegó 2012. Ilya y otros hacen AlexNet. Sigo observando el progreso y pienso: “Hombre, el aprendizaje profundo parece real. Además, parece que escala. Eso es algo grande, muy grande. Alguien debería hacer algo”.
Entonces comencé a reunirme con un montón de personas, preguntando quién sería bueno para hacer esto conmigo. Es imposible exagerar cuán no convencional era el AGI en 2014. La gente tenía miedo de hablar conmigo porque yo decía que quería iniciar un esfuerzo en AGI. Era, como, cancelable. Podía arruinar tu carrera. Pero muchas personas dijeron: hay una persona con la que realmente tienes que hablar, y esa era Ilya. Así que seguí a Ilya en una conferencia, lo encontré en el pasillo, y hablamos. Pensé: “Este tipo es inteligente”. Le conté lo que estaba pensando, y acordamos reunirnos para una cena. En nuestra primera cena, él articuló —no con las mismas palabras que usaría ahora— pero básicamente articuló nuestra estrategia para cómo construir AGI.
– Qué queda del espíritu de esa cena en la empresa hoy
Prácticamente todo. Hay cosas adicionales además de eso, pero esta idea de que creíamos en el aprendizaje profundo, creíamos en un enfoque técnico particular para lograrlo y una forma de hacer investigación e ingeniería juntos; es increíble para mí lo bien que ha funcionado. Por lo general, cuando tienes estas ideas, no funcionan del todo, y claramente hubo algunas cosas sobre nuestra concepción original que no funcionaron en absoluto. La estructura. Todo eso. Pero [creer que] el AGI era posible, que este era el enfoque por el que apostar, y que si fuera posible sería un gran problema para la sociedad, ha sido notablemente cierto.
– Una de las fortalezas de ese grupo original de OpenAI fue el reclutamiento. De alguna manera, lograron acaparar gran parte del talento de investigación en IA de alto nivel, a menudo con mucho menos dinero para ofrecer que sus competidores. ¿Cuál era el argumento?
El argumento era simplemente ven a construir AGI. Y la razón por la que funcionó —no puedo exagerar cuán herético era en ese momento decir que íbamos a construir AGI. Entonces filtras al 99% del mundo, y solo obtienes a los pensadores realmente talentosos y originales. Y eso es muy poderoso. Si estás haciendo lo mismo que todos los demás están haciendo, si estás construyendo, como, la aplicación número 10,000 para compartir fotos, es realmente difícil reclutar talento. Convénceme de que nadie más lo está haciendo, y apela a un pequeño conjunto realmente talentoso, puedes conseguirlos a todos. Y todos quieren trabajar juntos.
Así que teníamos lo que en ese momento sonaba como un argumento audaz o tal vez extravagante, y alejó a todos los expertos senior en el campo, y conseguimos a los jóvenes, talentosos y algo desorganizados que eran buenos para empezar.
– Qué tan rápido se acomodaron ustedes en sus roles
La mayoría de las personas trabajaba en esto a tiempo completo. Yo tenía un trabajo, así que al principio hacía muy poco, y con el tiempo me fui enamorando más y más. Para 2018, estaba completamente convencido. Pero durante un tiempo fue como un enfoque de “Banda de Hermanos”. Ilya y Greg básicamente lo dirigían, pero todos estaban haciendo lo suyo.
– Parece que tienes una visión romántica de esos primeros años.
Bueno, esos son los momentos más divertidos de la historia de OpenAI, sin duda. Es divertido ahora también, pero haber estado presente en lo que creo que será uno de los mayores períodos de descubrimiento científico, en términos de impacto en el mundo, de todos los tiempos, es una experiencia única en la vida. Si tienes mucha suerte.
– En 2019 asumiste como CEO. Cómo sucedió eso.
Estaba tratando de hacer OpenAI y [Y Combinator] al mismo tiempo, lo cual era muy difícil. Me obsesioné con esta idea de que realmente íbamos a construir AGI. Curiosamente, recuerdo haber pensado en ese entonces que lo haríamos en 2025, pero era un número totalmente aleatorio basado en diez años desde que comenzamos.
La gente solía bromear en esos días diciendo que lo único que hacía era entrar a una reunión y decir: “¡Escálenlo!”. Lo cual no es cierto, pero ese fue más o menos el impulso de ese período de tiempo.
– La fecha oficial de lanzamiento de ChatGPT es el 30 de noviembre de 2022. ¿Eso te parece hace un millón de años o hace una semana?
Cumplo 40 el próximo año. En mi cumpleaños número 30 escribí una publicación de blog titulada “Los días son largos, pero las décadas son cortas”. Alguien esta mañana me envió un correo electrónico diciendo: “Esta es mi publicación de blog favorita, la leo todos los años. Cuando cumplas 40, ¿escribirás una actualización?”.
Me estoy riendo porque definitivamente no voy a escribir una actualización. No tengo tiempo. Pero si lo hiciera, el título sería: “Los días son largos, y las décadas también son muy jodidamente largas”. Así que ha parecido un tiempo muy largo.
– Cuando esa primera cascada de usuarios comenzó a llegar, y era claro que esto iba a ser algo colosal, ¿tuviste un momento de ‘santo cielo’?
Así que, bueno, algunas cosas. Número uno, ¡pensé que iba a ir bastante bien! El resto de la compañía estaba como: “¿Por qué nos estás obligando a lanzar esto? Es una mala decisión. No está listo”. No tomo muchas decisiones de “vamos a hacer esto”, pero esta fue una de ellas.
YC tiene este gráfico famoso que PG solía dibujar, donde tienes los altibajos del potencial, y luego el desgaste de la novedad, y luego este largo bajón, y luego los altibajos del verdadero ajuste del producto al mercado. Y luego eventualmente despega. Es una parte del folklore de YC. En los primeros días, mientras [ChatGPT] estaba haciendo lo suyo, había más uso durante el día y menos por la noche. El equipo estaba como: “Ja, ja, ja, está cayendo”. Pero había aprendido algo en YC, que es, si cada vez que hay un nuevo bajón está por encima del pico anterior, hay algo muy diferente ocurriendo.
– Y en esos primeros cinco días, pensé: ‘Creo que tenemos algo entre manos que no estamos valorando’.
Eso inició una lucha frenética por conseguir más capacidad de cómputo, porque no la teníamos en ese momento. Habíamos lanzado sin un modelo de negocio ni un plan claro para obtener ingresos. Recuerdo una reunión en diciembre donde básicamente dije: “Consideraré cualquier idea sobre cómo vamos a pagar por esto, pero no podemos seguir así”. Hubo algunas ideas verdaderamente horribles, y ninguna buena. Así que simplemente dijimos: “Está bien, probemos una suscripción y resolveremos el resto más adelante”. Esa idea permaneció.
Lanzamos con GPT-3.5 y sabíamos que GPT-4 estaba en camino, así que sabíamos que mejoraría. Y a medida que comencé a hablar con las personas que lo estaban usando, sobre para qué lo usaban, pensé: “Sé que podemos mejorar esto también”. Seguimos mejorándolo rápidamente, y eso nos llevó a este momento de conciencia global de los medios, como quieras llamarlo.
– ¿Eres una persona que disfruta del éxito? ¿Pudiste asimilarlo, o ya estabas preocupado por la próxima fase de escalado?
Una cosa extraña sobre mí o mi carrera: el arco normal es que diriges una empresa grande y exitosa, y luego, en tus 50 o 60 años, te cansas de trabajar tan duro y te conviertes en [capitalista de riesgo]. Es muy inusual haber sido VC primero, tener una carrera bastante larga como VC, y luego dirigir una empresa. Y hay muchas formas en que creo que eso es malo, pero una manera en que ha sido muy bueno para mí es que tienes el beneficio extraño de saber qué te va a pasar, porque has visto y aconsejado a otras personas que han pasado por eso.
Sabía que estaba abrumado de gratitud, pero también como: “Maldición, me van a atar a un cohete, y mi vida va a ser totalmente diferente y no tan divertida”. Tenía mucho humor negro al respecto. Mi esposo cuenta historias divertidas de ese período sobre cómo llegaba a casa, y él decía: “¡Esto es genial!” Y yo decía: “Esto es realmente malo. También es malo para ti. Aún no te das cuenta, pero es realmente malo”.
– Has sido famoso en Silicon Valley durante mucho tiempo, pero una consecuencia de la llegada de GPT es que te volviste mundialmente famoso con la velocidad que normalmente se asocia con, por ejemplo, Sabrina Carpenter o Timothée Chalamet. ¿Eso complicó tu capacidad para gestionar una fuerza laboral?
Complicó mi capacidad para vivir mi vida. Pero dentro de la empresa, puedes ser un CEO conocido o no, y la gente solo quiere saber: “¿Dónde están mis jodidos GPUs?”.
Siento esa distancia en todo el resto de mi vida, y es algo realmente extraño. Lo siento cuando estoy con viejos amigos, nuevos amigos, con cualquiera excepto las personas más cercanas a mí. Supongo que lo siento en el trabajo si estoy con personas con las que normalmente no interactúo. Si tengo que ir a una reunión con un grupo que casi nunca veo, puedo notar que está ahí. Pero paso la mayor parte de mi tiempo con los investigadores, y te prometo que, si vienes conmigo a la reunión de investigación justo después de esto, no verás más que falta de respeto. Lo cual es genial.
– ¿Recuerdas el primer momento en el que tuviste una idea de que una compañía con fines de lucro, con miles de millones en inversiones externas y reportando a una junta sin fines de lucro, podría ser un problema?
Debe haber habido muchos momentos. Pero ese año fue un borrón tan loco, desde noviembre de 2022 hasta noviembre de 2023, que apenas lo recuerdo. Literalmente se sintió como si construyéramos una empresa completa desde casi cero en 12 meses, y lo hicimos bajo el escrutinio público. Una de las cosas que aprendí mirando hacia atrás es que todo el mundo dice que no va a cometer el error de priorizar lo urgente sobre lo importante, pero todos caen en la trampa de lo urgente.
Diría que el primer momento en que me enfrenté fríamente a la realidad fue alrededor de las 12:05 p. m. de ese viernes por la tarde.
– Cuando se supo que la junta te había despedido como CEO, fue impactante. Pero pareces ser una persona con alta inteligencia emocional. ¿Detectaste algún signo de tensión antes de eso? ¿Y sabías que tú eras la causa de esa tensión?
No creo que tenga una gran inteligencia emocional, pero incluso para mí esto estaba por encima del nivel en el que podía detectar que había tensión. Sabíamos que existía este tema en curso sobre la seguridad frente a la capacidad y el papel de una junta y cómo equilibrar todo esto. Así que sabía que había tensión, y no soy una persona con alta inteligencia emocional, así que probablemente había incluso más tensión de la que me di cuenta.
– Qué pasó ese fin de semana
Un montón de cosas molestas sucedieron ese primer fin de semana. Mi recuerdo de ese momento —y puede que esté recordando mal los detalles—, es que me despidieron al mediodía de un viernes. Un montón de personas renunciaron el viernes por la noche. Para entonces pensé: “Vamos a empezar un nuevo esfuerzo de AGI”. Más tarde, esa misma noche, algunos miembros del equipo ejecutivo dijeron: “Um, creemos que podríamos deshacer esto. Relájate, solo espera”.
El sábado por la mañana, dos miembros de la junta me llamaron y querían hablar sobre mi regreso. Inicialmente estaba súper enojado y dije que no. Luego pensé: “Está bien, lo haré”. Realmente me importa [OpenAI]. Pero dije: “Solo si toda la junta renuncia”. Desearía haber tomado un enfoque diferente, pero en ese momento sentí que era lo justo para pedir. Luego realmente no estuvimos de acuerdo sobre la composición de la junta por un tiempo.
Estuvimos negociando todo el sábado y domingo. Finalmente, el domingo por la noche anunciaron que Emmett Shear sería el nuevo CEO. Ahí fue cuando realmente me enfurecí. Fue una verdadera decepción. El lunes por la mañana, muchas personas amenazaron con renunciar, y luego dijeron: “Está bien, necesitamos revertir esto”.
– La junta dijo que hubo una investigación interna que concluyó que no fuiste “consistentemente sincero” en tus comunicaciones con ellos. Esa es una declaración específica: piensan que mentiste o que ocultaste información, pero también es vaga porque no especifica qué fue lo que no comunicaste. ¿Sabes ahora a qué se referían?
He escuchado diferentes versiones. Hubo cosas como: “Sam ni siquiera le dijo a la junta que iba a lanzar ChatGPT”. Y mi memoria y mi interpretación de eso son diferentes. Pero lo que es cierto es que definitivamente no fui como: “Vamos a lanzar esto que será un gran éxito”. Creo que ha habido una caracterización injusta de algunas cosas como esa.
Una cosa de la que soy más consciente es que tuve problemas con varios miembros de la junta en cuanto a lo que consideraba conflictos o comportamientos problemáticos, y ellos no estaban contentos con la forma en que intenté apartarlos de la junta. Aprendí la lección sobre eso.
– ¿Puedo ofrecer una teoría?
Claro.
– Reconociste en algún momento que la estructura de [OpenAI] iba a asfixiar a la empresa, que podría matarla en su etapa inicial. Porque una organización sin fines de lucro impulsada por una misión nunca podría competir por el poder computacional o hacer los cambios rápidos necesarios para que OpenAI prosperara. La junta estaba compuesta por “originalistas” que priorizaban la pureza sobre la supervivencia. Así que comenzaste a tomar decisiones para preparar a OpenAI para competir, lo que requería ser un poco astuto, lo cual…
No creo que estuviera haciendo cosas astutas. Lo máximo que diría es que, en el espíritu de movernos muy rápido, la junta no entendió el panorama completo. Hubo algo relacionado con “Sam posee el fondo de startups y no nos lo dijo”. Y lo que sucedió allí es que, debido a nuestra estructura complicada: OpenAI en sí no podía poseerlo, ni tampoco alguien que tuviera acciones en OpenAI. Y yo resulté ser la persona que no tenía acciones en OpenAI. Así que fui temporalmente el propietario hasta que configuramos una estructura para transferirlo.
Tengo una opinión diferente sobre si la junta debería haber sabido sobre eso o no. Pero, ¿debería haber habido más claridad para comunicar cosas como esa, donde existe incluso la apariencia de algo indebido? Sí, acepto ese comentario. Pero eso no es astucia. Es un año loco, ¿verdad? Es una empresa que se mueve a un millón de millas por hora de muchas maneras diferentes.
– Creo que la junta anterior tenía una convicción genuina sobre los riesgos del AGI. Dijeron que podría ser consistente con la misión del consejo sin fines de lucro destruir la empresa. ¿Eso te sorprendió?
Creo que lo decían de forma genuina. Aunque discrepo de todas las conclusiones y acciones específicas, respeto la convicción cuando es auténtica.
– Obviamente ganaste, porque estás aquí. Pero, practicando un poco de empatía, ¿no te traumatizó todo esto?
Totalmente. Lo más difícil no fue atravesarlo, porque puedes hacer mucho con una descarga de adrenalina de cuatro días. Fue el período después, cuando la situación seguía empeorando. Investigaciones gubernamentales, filtraciones falsas a la prensa… Era oscuro, frío y lluvioso, y caminaba por mi casa solo por las noches, sintiéndome jodidamente deprimido y cansado.
– Cuando volviste a la empresa, ¿te sentías cohibido sobre tomar grandes decisiones o hacer anuncios porque te preocupaba cómo tu carácter podría ser percibido? En otras palabras, ¿te preocupaba que algunas personas pensaran que eras malo y necesitabas convencerlas de que eras bueno?
Era peor que eso. Una vez que todo quedó claro, estaba bien, pero en los primeros días nadie sabía nada. Caminaba por los pasillos y las personas evitaban mirarme a los ojos. Era como si tuviera un diagnóstico terminal. Había simpatía y empatía, pero no sabían qué decir. Eso fue realmente difícil. Pero pensé: “Tenemos un trabajo complicado por hacer. Voy a seguir haciéndolo”.
– ¿Cómo diriges la empresa realmente? ¿Cómo pasas tus días? ¿Hablas con ingenieros individuales? ¿Tienes tiempo para caminar por la oficina?
Déjame mirar mi calendario. Hacemos una reunión de equipo ejecutivo de tres horas los lunes. Ayer y hoy tuve seis reuniones individuales con ingenieros. Voy a la reunión de investigación justo después de esto. Mañana tengo algunas reuniones importantes de asociaciones y varias sobre capacidad de cómputo. Cinco reuniones relacionadas con el escalamiento de chips. También tres reuniones de lluvia de ideas sobre productos y una cena con un socio importante de hardware después. Así se ve. Algunas cosas son ritmos semanales, y el resto depende de lo que surja.
– ¿Cuánto tiempo dedicas a la comunicación, interna y externamente?
Mucho más internamente. No soy un gran escritor de correos electrónicos inspiradores, pero hago muchas reuniones individuales y en pequeños grupos, además de mucha comunicación por Slack.
– Oh, Dios. Qué admirable. ¿Te metes en los detalles?
Soy un gran usuario de Slack. Puedes obtener muchos datos en los detalles. No hay nada como estar en una reunión con un pequeño equipo de investigación para profundidad, pero para amplitud, Slack es muy útil.
– Has mencionado intervenir con un punto de vista muy claro sobre cómo debería ser ChatGPT y la experiencia del usuario. ¿Hay áreas en las que sientas que tu competencia te lleva a ser más un jugador que un entrenador?
¿A esta escala? No realmente. Ayer tuve una cena con el equipo de Sora y llevé páginas de sugerencias bastante detalladas. Pero eso es inusual. O la reunión después de esta, tengo una propuesta específica para el equipo de investigación sobre lo que creo que deberían hacer en los próximos tres meses, con bastante detalle granular, pero eso también es raro.
– Hemos hablado un poco sobre cómo la investigación científica a veces puede entrar en conflicto con una estructura corporativa. Has separado físicamente la investigación del resto de la empresa en un edificio diferente, a algunos kilómetros. ¿Hay alguna intención simbólica detrás de eso?
No, eso es solo planificación logística, espacio. Eventualmente tendremos un campus grande. La investigación tendrá su propio espacio. Proteger el núcleo de la investigación es crucial para lo que hacemos.
– ¿Protegerla de qué?
Del camino típico de Silicon Valley: comienzas como una empresa de productos, te vuelves muy bueno en eso, escalas masivamente, y el crecimiento de ingresos se ralentiza como porcentaje. Entonces el CEO decide abrir un laboratorio de investigación para generar nuevas ideas. Eso ha funcionado algunas veces, como Bell Labs y Xerox PARC, pero generalmente no. Usualmente obtienes una gran empresa de productos y un laboratorio de investigación mediocre.
Somos muy afortunados de que el pequeño producto que añadimos sea quizás la empresa de tecnología de más rápido crecimiento. Pero eso podría fácilmente eclipsar la magia de la investigación,
– Estamos aquí para construir AGI y superinteligencia, y todo lo que venga después. Hay muchas cosas maravillosas que sucederán en el camino, cualquiera de las cuales podría razonablemente distraernos del gran objetivo. Creo que es realmente importante no distraerse. Como empresa, han dejado de hablar públicamente sobre AGI. Ahora hablan sobre IA y niveles, pero individualmente sigues hablando de AGI.
Creo que “AGI” se ha convertido en un término muy impreciso. Si miras nuestros niveles, nuestros cinco niveles, puedes encontrar personas que llamarían AGI a cada uno de ellos. La idea de los niveles es tener un marco más específico para saber dónde estamos y cómo avanza el progreso, en lugar de debatir si es AGI o no.
– Cuál es el umbral para que digas: “Está bien, ahora hemos logrado AGI”
De manera general, pienso que un sistema de IA puede considerarse AGI cuando puede hacer lo que los humanos muy calificados en trabajos importantes hacen. Pero surgen muchas preguntas: ¿es todo el trabajo o solo parte de él? ¿Puede empezar como un programa y decidir que quiere ser médico? ¿Puede hacerlo al nivel de los mejores en el campo o solo al del percentil 98? ¿Qué tan autónomo es? No tengo respuestas profundas y precisas todavía, pero si pudieras contratar a una IA como empleado remoto para ser un gran ingeniero de software, creo que mucha gente diría: “Está bien, eso es algo parecido a AGI”.
Siempre vamos a mover los postes de la meta, lo que hace esto difícil, pero me quedo con esa definición. Cuando pienso en la superinteligencia, el punto clave para mí es: ¿puede este sistema aumentar rápidamente la tasa de descubrimiento científico en la Tierra?
– Ahora tienen más de 300 millones de usuarios. ¿Qué están aprendiendo de su comportamiento que haya cambiado su comprensión de ChatGPT?
Hablar con las personas sobre para qué usan ChatGPT, y para qué no, ha sido muy útil en nuestra planificación de productos. Una cosa que solía surgir todo el tiempo era que claramente la gente estaba tratando de usar ChatGPT para búsquedas, lo que no estaba en nuestros planes iniciales. Y era terrible para eso. Pero quedó claro que construir esa funcionalidad era importante. Desde que lanzamos la función de búsqueda en ChatGPT, casi no uso Google. No creo que hubiera sido obvio antes del lanzamiento que ChatGPT reemplazaría mi uso de Google.
Otra cosa que aprendimos de los usuarios es cuánto confían en él para consejos médicos. Muchos en OpenAI reciben correos conmovedores de personas diciendo: “Estuve enfermo durante años, ningún médico supo lo que tenía. Finalmente puse todos mis síntomas y resultados en ChatGPT, y dijo que tenía esta enfermedad rara. Fui a un médico, y me trataron. Ahora estoy completamente curado”. Eso es un ejemplo extremo, pero cosas como esa suceden con frecuencia, y nos han enseñado que la gente quiere esto y deberíamos construir más herramientas relacionadas.
– Sus productos han tenido precios variados, desde $0 hasta $20 o $200. Bloomberg informó sobre la posibilidad de un nivel de $2,000. ¿Cómo decides el precio de una tecnología que nunca ha existido? ¿Es investigación de mercado? ¿Una corazonada?
Lanzamos ChatGPT gratis, y luego la gente comenzó a usarlo mucho, así que tuvimos que encontrar una manera de financiarlo. Probamos dos precios, $20 y $42. A la gente $42 les pareció un poco excesivo. Estaban felices de pagar $20. Elegimos $20. Probablemente fue a finales de diciembre de 2022 o principios de enero. No fue un estudio riguroso de precios.
Estamos explorando otras opciones. Muchos clientes nos dicen que quieren precios basados en el uso: “Algunos meses puedo gastar $1,000 en cómputo; otros, muy poco”.
– ¿Qué aspecto tiene tu comité de seguridad ahora? ¿Cómo ha cambiado en el último año o año y medio?
Tenemos varios grupos de seguridad: un comité asesor interno que hace estudios técnicos, un comité de seguridad y protección que reporta a la junta, y una junta conjunta con Microsoft. Estamos trabajando para simplificar eso.
– ¿Estás en todos estos comités?
No estoy formalmente en el comité asesor interno, aunque recibo sus informes. Tampoco en el comité de seguridad de la junta. Sí estoy en la junta conjunta con Microsoft.
– ¿Tu percepción de los riesgos ha evolucionado?
Mantengo más o menos los mismos perfiles de riesgo a corto, medio y largo plazo. A corto plazo, espero problemas serios en ciberseguridad y biotecnología. A largo plazo, los riesgos asociados con sistemas extremadamente capaces serán difíciles de modelar, pero simultáneamente creo que abordar esos riesgos requiere lanzar productos y aprender.
– En el futuro inmediato, la industria parece haber identificado tres posibles obstáculos para el progreso: escalar los modelos, la escasez de chips y la escasez de energía. Sé que están relacionados, pero ¿cómo los clasificarías según tu nivel de preocupación?
Tenemos un plan con el que me siento bastante bien para cada categoría. Escalar los modelos: continuamos haciendo progresos técnicos, avances en capacidades y mejoras en seguridad, todo junto. Creo que 2025 será un año increíble. ¿Conoces el desafío ARC-AGI? Hace cinco años, este grupo creó un premio como una guía para AGI. Querían un punto de referencia que consideraran muy difícil. El modelo que estamos anunciando el viernes pasó ese punto de referencia. Durante cinco años, estuvo allí sin resolverse. Consiste en problemas como este: dijeron que si se obtenía un 85% en este conjunto de pruebas, lo considerarían un “aprobado”. Nuestro sistema —sin trabajo personalizado, simplemente como salió de la caja— obtuvo un 87.5%. Y tenemos investigaciones muy prometedoras y modelos mejores en camino.
Hemos trabajado mucho en toda la cadena de suministro de chips, con todos los socios. Tenemos personas para construir centros de datos y fabricar chips para nosotros. También tenemos nuestro propio esfuerzo de chips aquí. Tenemos una maravillosa asociación con Nvidia, que es una empresa absolutamente increíble. Y hablaremos más sobre esto el próximo año, pero ahora es el momento de escalar chips.
– Entonces, energía…
La fusión va a funcionar.
– ¿La fusión va a funcionar? ¿En qué marco de tiempo?
Pronto. Bueno, pronto habrá una demostración de fusión con ganancia neta. Después, tendrás que construir un sistema que no falle. Hay que escalarlo, crear una fábrica para construir muchos de ellos, y obtener la aprobación regulatoria. Eso tomará años en total, pero espero que [Helion] muestre que la fusión funciona pronto.
– A corto plazo, ¿hay alguna forma de sostener el crecimiento de la IA sin retroceder en los objetivos climáticos?
Sí, pero ninguna tan buena como autorizar rápidamente los reactores de fusión. Creo que nuestro tipo particular de fusión es un enfoque tan hermoso que deberíamos avanzar rápidamente hacia eso y terminar.
– Mucho de lo que acabas de decir interactúa con el gobierno. Tenemos un nuevo presidente entrando. Hiciste una donación personal de $1 millón al fondo inaugural. ¿Por qué?
Es el presidente de los Estados Unidos. Apoyo a cualquier presidente.
– Entiendo por qué tiene sentido que OpenAI sea vista apoyando a un presidente conocido por llevar la cuenta de quién lo apoya, pero esta fue una donación personal. Donald Trump se opone a muchas de las cosas que has apoyado previamente. ¿Estoy equivocado al pensar que la donación no es un acto de convicción patriótica sino más bien un acto de lealtad?
No apoyo todo lo que Trump hace o dice o piensa. Tampoco apoyo todo lo que Biden hace o dice o piensa. Pero apoyo a los Estados Unidos de América, y trabajaré en la medida en que pueda con cualquier presidente por el bien del país. Y particularmente por el bien de lo que creo que es este gran momento que debe trascender cualquier problema político.
Creo que el AGI probablemente se desarrollará durante el mandato de este presidente, y hacerlo bien parece realmente importante. Apoyar la inauguración es algo relativamente pequeño. No lo veo como una gran decisión de un lado u otro. Pero sí creo que todos deberíamos desearle éxito al presidente.
– Él ha dicho que odia la Ley de Chips. Tú apoyaste esa ley.
En realidad no. Creo que la Ley de Chips fue mejor que no hacer nada, pero no lo que deberíamos haber hecho. Hay una oportunidad real de hacer algo mucho mejor como seguimiento. No creo que la Ley de Chips haya sido tan efectiva como esperábamos.
– Elon claramente jugará algún papel en esta administración. Está demandándote. Está compitiendo contigo. En DealBook dijiste que crees que está por encima de usar su posición para involucrarse en asuntos turbios relacionados con la IA.
Creo que sí.
– Pero, si puedo: en los últimos años compró Twitter, luego demandó para no comprar Twitter. Replataformó a Alex Jones. Retó a Zuckerberg a una pelea en jaula. Eso es solo la punta del iceberg de los asuntos turbios. ¿Realmente crees que no usará su posición?
Oh, creo que hará toda clase de cosas malas. Creo que continuará demandándonos, retirará demandas y presentará nuevas demandas, y lo que sea. Aún no me ha desafiado a una pelea en jaula, pero tampoco creo que haya sido tan serio sobre eso con Zuck, resultó ser. Como señalaste, dice muchas cosas, las inicia, las deshace, lo demandan, demanda, se pelea con el gobierno, el gobierno lo investiga.
Eso es simplemente Elon siendo Elon. La pregunta era, ¿abusará de su poder político como “copresidente”, o como quiera llamarse ahora, para meterse con un competidor comercial? Creo que no lo hará. Sinceramente, no. Aunque podría equivocarme.
– Cuando ustedes trabajaban juntos en su mejor momento, ¿cómo describirías lo que cada uno aportaba a la relación?
Tal vez como un espíritu complementario. No sabíamos exactamente qué sería esto o qué íbamos a hacer o cómo iría, pero compartíamos la convicción de que esto era importante, y esta era la dirección general en la que empujar, y cómo corregir el rumbo.
– Tengo curiosidad sobre cómo era la relación de trabajo en la práctica.
No recuerdo grandes enfrentamientos con Elon hasta los desacuerdos que llevaron a su partida. Hasta entonces, a pesar de todas las historias —la gente habla de cómo regaña a las personas, de que explota y cosas así—, yo no experimenté eso.
– ¿Te sorprende cuánto capital ha podido recaudar, específicamente del Medio Oriente, para xAI?
No. Tienen mucho capital. Es la industria que quieren. Elon es Elon.
– Supongamos que tienes razón y hay una intención positiva de parte de Elon y la administración. ¿Qué sería lo más útil que la administración de Trump podría hacer por la IA en 2025?
Infraestructura construida en Estados Unidos, y mucha de ella. La idea con la que estoy profundamente de acuerdo con el presidente es que es increíblemente difícil construir cosas en Estados Unidos en este momento. Plantas de energía, centros de datos, cualquier cosa de ese tipo. Entiendo cómo la burocracia se acumula, pero no es útil para el país en general.
Y en particular, no es útil si piensas en lo que necesita suceder para que Estados Unidos lidere en IA. Y Estados Unidos realmente necesita liderar en IA.
