El presidente Trump reunió a los principales líderes de inteligencia sintético en Washington el martes y redobló su concurso a la intervención público, sugiriendo que la “autorregulación” es la respuesta a las crecientes preocupaciones de que la tecnología salga del control humano.
“Existe la creencia de que debería suceder una tremenda autorregulación”, dijo el presidente posteriormente de reunirse con los directores ejecutivos reunidos. “Había muchos puntos en popular en esta sala”.
Trump dijo que él y los directores ejecutivos firmaron un acuerdo “moralmente vinculante” que no se hizo divulgado de inmediato, pero que, según el presidente, mantendría a las empresas a guión mediante “autoevaluación y vigilancia grupal”.
Algunos ejecutivos presentes dijeron que el llamado Acuerdo sobre Súper Inteligencia incluiría compromisos con una combinación de controles tecnológicos para detectar problemas con nuevos modelos, esfuerzos internos de revisión de riesgos, auditores externos y otras medidas.
El director ejecutante de Meta (META), Mark Zuckerberg, calificó el acuerdo como “un manifestación”, mientras que otros sugirieron que aún era necesario resolver algunos detalles.
“El mecanismo, cómo abordamos esos riesgos, aún está en discusión”, dijo el director común de Anthropic (ANTH.PVT), Dario Amodei. Se han acabado avances tanto para que Estados Unidos gane en IA como para superar de forma segura, dijo, aunque enfatizó que la tecnología todavía plantea “peligros reales”.
Amodei publicó un tratado a principios de este mes titulado “Debemos caminar por la frontera” lo que desató un feroz debate sobre la escazes de una desaceleración cooperativa en la capacidad de IA.
El acuerdo incluso cambió formalmente el nombre de la tecnología en los registros gubernamentales a SuperInteligencia.
“Hemos cambiado el nombre oficialmente a SI”, dijo Trump.
La “reunión y refrigerio sobre Superinteligencia”, como la Casa Blanca describió el evento, tuvo oportunidad en el East Room, con Trump incluso publica el plano de los asientos. El oportunidad era el mismo oportunidad donde hace escasamente unos días, se reunieron muchos de los mismos líderes de IA. para una cena de estado para el presidente chino Xi Jinping.
Elon Musk de Tesla (TSLA), Jensen Huang de Nvidia (NVDA) y Mújol Su de Advanced Micro Devices (AMD) eran todos en la mesa principal con Xi el jueves pasado y nuevamente recibió lugares destacados cerca de Trump.
Luego de la reunión, Trump incluso dijo que estaba “muy cerca” de tomar una audacia sobre un zar de la IA y que la anunciaría en los próximos tres o cuatro días.
Otros invitados notables incluyeron al director ejecutante de Google (GOOGL, GOOG), Sundar Pichai, al director ejecutante de Microsoft (MSFT), Satya Nadella, al presidente de OpenAI (OPAI.PVT), Greg Brockman, al director ejecutante de Palantir (PLTR), Alex Karp, al fundador de Amazon (AMZN), Jeff Bezos, y otros.
La reunión se produjo mientras Estados Unidos continúa asimilando una serie de nuevas y alarmantes revelaciones de inteligencia sintético en los últimos días. como un crónica de Axios que Los investigadores de OpenAI, Anthropic y de seguridad estaban analizando miles de incidentes de acciones problemáticas por parte de agentes de IA.
