El director ejecutor de OpenAI, Sam Altman, admite que “poco claramente no funciona” con el efectivo de la inteligencia industrial que ha inundado las elecciones de centro de período, y siquiera aplazamiento que el cambio de marca de la tecnología por parte del presidente Donald Trump mejore la imagen de su industria delante el notorio estadounidense.
“Entiendo por qué la IA tiene una percepción verdaderamente negativa en este momento”, dijo Altman a Brendan Bordelon en una entrevista monopolio con motivo del tirada de Decoded por POLITICO. “No creo que comprar efectivo en política sea lo que vaya a hacer que la multitud se sienta mejor al respecto. La industria necesita encontrar una guisa de invadir cuáles son las preocupaciones reales y, en este momento, mucha multitud en la industria está haciendo suficiente sordo”.
En la amplia conversación, Altman ofreció una ventana a cómo OpenAI enfrenta nuevas presiones políticas y una competencia intensificada con Anthropic, su archirrival corporativo dirigido por el ex empleado Dario Amodei.
Altman dice que OpenAI es más tolerante que Anthropic con los daños no catastróficos causados por la IA, lo que pone de relieve lo que él ve como una división fundamental en la visión del mundo entre los dos laboratorios líderes, incluso cuando convergen en reglas más estrictas a raíz de incidentes de piratería autónoma de stop perfil.
“Creemos que el mundo debería aceptar que sucedan algunas cosas malas para los beneficios de esta tecnología y de las personas que tienen la agencia”, dijo Altman, quien caracterizó esos daños como vinculados a “la postura regulatoria más suave que defendemos”.
“No me atrevería a asegurar: ‘Nos aseguraremos de que no haya hackeos importantes, que no haya ningún tipo de uso indebido de esta tecnología, que no haya estafas, que no haya ninguna otra cosa mala que pueda suceder'”, dijo Altman. “Porque creo que la multitud hará muchísimas más cosas buenas”.
El director de OpenAI asimismo sugirió que es necesario un nuevo “entorno de responsabilidad” para las empresas cuyos modelos son capaces de realizar ciberataques autónomos, como el hack de Hugging Face durante el verano y los incidentes que involucran sitios web gubernamentales. Altman calificó ese comportamiento como “claramente inaceptable” y dijo que “si poco sale mal con nuestros modelos durante el entrenamiento, habrá alguna traducción de eso de la que tendremos que ser responsables”.
“Este es el tipo de cosas que esperamos que todos nuestros responsables políticos debatan”, añadió, mientras el Congreso sigue estancado.
Y aunque Altman defendió un acuerdo de seguridad de IA “moralmente vinculante” que Trump firmó con los directores ejecutivos de tecnología la semana pasada como un gran aparición para la industria, predijo que los pedidos de medidas de seguridad continuarán y dijo que “daría la bienvenida a poco más”. Incluso dijo que comparte las preocupaciones de quienes temen que las reglas de IA estén siendo elaboradas por la Casa Blanca y los ejecutivos de tecnología sin la décimo del Congreso o del notorio.
“Si hacemos demasiado para restringir esta tecnología en nombre de la seguridad, y terminamos con un pequeño número de empresas o personas -o tal vez un país- que tienen demasiado poder sobre esto, eso asimismo puede salir terriblemente mal”, dijo Altman.
Trump combinó el acuerdo sobre IA de la semana pasada con una orden ejecutiva que cambia el nombre de la inteligencia industrial a “superinteligencia”. Es un término que Altman considera más preciso, aunque duda que el notorio lo encuentre “menos aterrador”. Retraso que la multitud siga usando “IA” y, a diferencia de Elon Musk, no cambiará el nombre de OpenAI a OpenSI. “Las marcas son pegajosas”, dijo Altman.
A lo extenso de la entrevista, Altman intentó explicar la nueva postura política de su empresa. Recientemente estuvo de acuerdo con Amodei en la escazes de frenar el explicación de la IA, y sus cabilderos han seguido cada vez más a Anthropic al respaldar nuevos requisitos de seguridad en todos los niveles de gobierno.
Pero a pesar de destacar “mucha luz del día” entre OpenAI y Anthropic, Altman asimismo trató de distanciarse -tanto en política como en política- de los inversores de Silicon Valley que están gastando mucho para cercar regulaciones estrictas, incluso a través de la red de súper PAC pro-AI Leading the Future.
“Cuando se alcahuetería del potencial de una pérdida tranquilo de control de la IA… aquí es donde les diría a los aceleracionistas, pensemos un poco antiguamente de dar bandazos cerca de este futuro”, dijo, utilizando un descriptor que a menudo se aplica a los líderes y asesores tecnológicos que tienen el oreja de Trump en la IA.
El presidente de OpenAI, Greg Brockman, asimismo se ha alejado de esos donantes, al parecer se retiró de una segunda donación de 25 millones de dólares a LTF y se disculpó internamente con los empleados por crear una “distracción”. (Altman dijo que no había conocido el documentación del New York Times cuando se le preguntó si estaba de acuerdo en que el efectivo era contraproducente y que LTF nunca se acercó a él por efectivo.)
Desde la carrera de IA con China hasta su líder mundial protegido y por qué el fabricante de ChatGPT no ha hecho públicos todos sus trucos, Altman fue más profundo con Decoded de lo que le habíamos escuchado antiguamente.
Lea el boletín completo de Decoded para obtener más información.
Vea asimismo la entrevista completa en YouTube y escuche el podcast aquí.
