BERKELEY, California – Luego de que los defensores de la seguridad de la inteligencia químico captaran la atención de Washington con terribles advertencias sobre el poder de la tecnología, la despacho Trump y sus aliados aceptaron algunas de sus sugerencias, al tiempo que actuaron para dejar de banda a los propios defensores.
En los últimos días se han trazado líneas de batalla sobre parte de un acuerdo firmado por el presidente Donald Trump y los directores ejecutivos de IA la semana pasada: ¿Quién debería auditar los sistemas de las empresas de IA para asegurar que su tecnología se comporte según lo previsto?
Suscríbase al boletín The Post Most para conocer las historias más importantes e interesantes de The Washington Post.
Las principales empresas de IA, incluidas OpenAI y Anthropic, han trabajado durante abriles con un liga de organizaciones sin fines de interés concentradas en la comunidad de seguridad de IA del Campo de acción de la Bahía, que surgió del efectivo movimiento altruista. Pero los aliados de Trump en el mundo tecnológico dicen que el trabajo de auditar la IA debería ser asumido por las firmas consultoras más grandes de Estados Unidos.
“En mi opinión, deberían ser auditores profesionales, no estas ONG”, dijo la semana pasada el inversionista y ex asesor principal de inteligencia químico de la Casa Blanca, David Sacks, en su podcast All-In. Dijo en una publicación en X el mes pasado que METR, una estructura sin fines de interés de seguridad de IA, que ha trabajado con Anthropic, era demasiado cercana a la compañía para ser llamamiento independiente. Poco posteriormente, Anthropic dijo que se asociaría con el cíclope consejero Accenture para formar un equipo de evaluadores externos.
En una conferencia aquí durante el fin de semana, miembros de organizaciones de seguridad de IA lidiaron con el impacto de lo que algunos ven como una campaña coordinada para deslegitimar su trabajo y pintar a su comunidad como una secta y poco seria. El evento tuvo zona en un antiguo hotel popular entre los acólitos de seguridad de la IA que recientemente todavía acogió una conferencia sobre la conciencia de la IA y un taller sexual llamado “Slutcon”.
Los funcionarios y aliados de Trump han atacado al movimiento durante meses, pero los ataques se intensificaron posteriormente de que la ansiedad pública por los riesgos de la IA obligó a la Casa Blanca a replicar. El mes pasado, Sacks compartió en X una portada del New York Post que llamaba a los empleados de METR, que ayudaron a OpenAI a investigar a sus agentes de IA rebeldes, “LOS MAGOS DE LA IA QUE DESPERTARON”. (El Washington Post tiene una asociación de contenido con OpenAI).
Trump nombró el domingo a varias figuras que han rechazado los llamados de los defensores de una desaceleración en toda la industria de la IA en su panel asesor de la Súper Fuerza de Inteligencia. Entre ellos se incluyen Sacks y Emil Michael, director de tecnología del Pentágono, quien dijo el mes pasado que los llamados a la influencia para evitar escenarios extremos en los que la IA cause daño promovían “filosofías similares a la acabamiento y el culto a la asesinato”.
“Ha habido absolutamente un impulso retórico adentro de ciertos rincones de la Casa Blanca y de la despacho Trump en universal para difundir el mensaje sobre el altruismo efectivo y sus peligros potenciales”, dijo un funcionario de la despacho Trump, hablando bajo condición de anonimato para describir discusiones privadas.
Un funcionario de la Casa Blanca dijo que apoya a las organizaciones que evalúan la seguridad de cómo se diseñan los modelos de IA. El funcionario señaló la orden ejecutiva de Trump de 2025 dirigida a lo que el presidente denominó “IA despierta”.
Anthropic se negó a hacer comentarios.
Nathan Leamer, director de la estructura sin fines de interés Build American AI, dijo que ha estado informando al personal del Congreso y a otras figuras conservadoras influyentes en Washington sobre el altruismo efectivo, describiéndolo como la antítesis de sus propios títulos cristianos.
“Hace un año nadie en las oficinas de Hill sabía qué era el altruismo efectivo”, dijo Leamer. Build American AI está vinculado a Leading the Future, un liga de campaña política financiado por la firma de caudal de aventura Andreessen Horowitz y el presidente de OpenAI, Greg Brockman, un importante donante republicano de medio de período.
Brad Carson, cofundador de Americans for Responsible Innovation, que dice que se centra en la política de IA en interés sabido, dijo que los aliados de Trump están tratando de desacreditar a cualquiera que impulse una regulación significativa de la IA, una idea que ahora tiene un impulso significativo.
“En DC, al menos, y tal vez en la civilización más amplia, ganamos esa pelea. La vibra está con nosotros”, dijo Carson, quien todavía dirige una estructura de defensa política financiada en parte por Anthropic. “La masa está muy preocupada. El Congreso quiere regular”.
Pero los líderes de empresas emergentes de evaluación de IA que no surgieron del movimiento de seguridad de la IA dijeron que algunos republicanos de Washington desconfían de la marbete.
“Casi parecía una nueva interpretación del macartismo”, dijo Rayan Krishnan, director ejecutor de Vals AI, una nueva empresa respaldada por Andreessen Horowitz, posteriormente de un delirio a Washington el mes pasado para presentar su nueva empresa al sector sabido.
Judd Rosenblatt, director ejecutor de AE Studio, quien se describió a sí mismo como un propietario de una pequeña empresa conservadora, dijo que varias personas en la despacho Trump le han dicho a su equipo que ven la privación de que terceros evalúen las herramientas de inteligencia químico, pero desconfían del altruismo efectivo, dijo.
Los grupos de la sociedad civil que han estado auditando los sistemas de IA desde antiguamente del inauguración de ChatGPT advierten que existe el aventura de que se desperdicie una oportunidad de supervisión de los gigantes opacos de la IA.
“Lo que nos encontramos ahora es tratar de determinar quién estará verdaderamente en la sala para tomar decisiones”, dijo Miranda Bogen, tecnóloga patriarca del Centro para la Democracia y Tecnología y directora del Laboratorio de Gobernanza de IA del liga de defensa, uno de varios grupos deseosos de contribuir con su experiencia en el establecimiento de estándares.
El acuerdo firmado por los directores ejecutivos de AI la semana pasada, que Trump llamó “moralmente vinculante”, fue mencionado con frecuencia en el ambiente y en reuniones entre sesiones en la conferencia de Berkeley el fin de semana pasado, donde los asistentes soportaron una ola de calor con fanáticos y paletas heladas.
En un panel de discusión dominical sobre cómo podría ser el ecosistema de auditores de IA, un orador dijo que están trabajando para construir una amplia coalición de expertos, incluidas personas que trabajan en prejuicios y discriminación, así como empresas de primera linde como Accenture y Deloitte. Los panelistas todavía discutieron otras formas en que la comunidad podría demostrar su legalidad. Otro sugirió campamentos de entrenamiento de dos meses para capacitar a un liga de auditores calificados.
Adam Gleave, director ejecutor de FAR.AI, un instituto de investigación sin fines de interés, dijo en una entrevista que excluir a la comunidad de seguridad de la IA excluiría a personas con experiencia que son importantes en el momento presente.
“Cuando se proxenetismo de observar millones de transcripciones de agentes y tratar de rehacer lo que hicieron y cómo interactuaban, no creo que haya muchas organizaciones en el mundo que tengan esa experiencia”, dijo Gleave. “La verdad es que cualquier persona que contrates con esa experiencia tendrá alguna conexión con la industria”.
En su podcast, Sacks y sus copresentadores, que siguen siendo cercanos a la Casa Blanca, dejaron en claro que preferían que gigantes corporativos establecidos hicieran el trabajo.
“Verán a EY anunciar poco aquí en poco tiempo”, dijo el inversionista Chamath Palihapitiya, quien anteriormente en el episodio dijo que su nueva empresa 8090 estaba construyendo para la firma de contabilidad integral anteriormente conocida como Ernst & Young “una infraestructura de auditoría completa para súper inteligencia”, y que 8090 ahora planea “implementarla para todos”.
EY dijo en un comunicado que estaba trabajando con 8090 para “desarrollar nuevas capacidades que brinden viejo visibilidad, trazabilidad y responsabilidad humana a las decisiones y flujos de trabajo consecuentes habilitados por IA”.
Contenido relacionado
