Blog

Pacing the Frontier es una declaración pública firmada por empleados de compañías de inteligencia artificial fronteriza.

1134 firmantes (867 nombrados, 267 anónimos), de los cuales 70 dejaron un comentario público. Los empleadores más representados: Anthropic (533), OpenAI (330), Google (191), Meta (62).

Dejo a continuación una traducción automática de los 70 comentarios públicos en el orden en que el sitio los enumera, interesante echarles un vistazo para ver los motivos y preocupaciones por los que firman esta declaración pública.

Leo Gao
Member of Technical Staff, OpenAI

El mundo está atrapado en una carrera mortal hacia una explosión de inteligencia, donde la capacidad de la IA para crear mejores IA alcanza un punto crítico, al igual que una reacción en cadena nuclear desbocada. Ir más lento nos daría el tiempo que tanto necesitamos para que vaya bien, pero ningún actor individual está dispuesto a detenerse unilateralmente. Para sobrevivir, debemos coordinar para frenar la carrera.

Matthew Rahtz
Staff Research Engineer, Google

Incluso después de 3 años trabajando en evaluaciones de capacidad de inteligencia artificial, el reciente ritmo de progreso ha sido un shock. Para evitar daños catastróficos de AGI, necesitamos una coordinación mucho, mucho mejor.

Christian Ryan
Member of Technical Staff, Anthropic

Como ciudadano extranjero, veo un esfuerzo apoyado por Estados Unidos como existencial, no sólo por las libertades del mundo libre, sino por la prosperidad de todos.

Will Yager
Anthropic

Al igual que la división del átomo, la IA tiene el potencial de un inmenso beneficio y un riesgo inmenso. El mundo debería tomarse el tiempo para hacer esto bien.

Micah Carroll
Misalignment Preparedness, OpenAI

Al ritmo actual, cada dos semanas habrá nuevos modelos que aumentarán significativamente las consecuencias del mal uso del modelo y la desalineación. Me preocupa que los esfuerzos por mitigar estos riesgos no se mantengan al día con el ritmo del desarrollo, y que los márgenes de error se vuelvan cada vez más pequeños bajo las presiones competitivas internacionales. En un futuro próximo, es posible que queramos urgentemente promulgar una desaceleración coordinada internacionalmente, o una prohibición indefinida del desarrollo de la IA. Intentar construir la confianza y la infraestructura para tomar tales acciones a corto plazo parece simplemente prudente: ¿por qué no intentaríamos tener esta opción? Me temo que en una carrera internacional hacia el fondo del desarrollo de la IA, es probable que ninguna nación gane, y que todos perderemos juntos.

Shengjia Zhao
Científico jefe, Meta AI

La IA está progresando a un ritmo para el que nuestra sociedad podría no estar lista. Los laboratorios fronterizos están muy cerca de la IA que puede superar incluso a las mejores personas en casi todas las métricas de inteligencia. Esto conducirá a riesgos sociales y de seguridad sin precedentes. Para garantizar un futuro positivo, necesitamos desarrollar la IA de una manera impulsada por la responsabilidad y la consideración.

John Schulman
Chief Scientist, Thinking Machines

Firmado porque esta declaración ayuda a establecer un conocimiento común sobre la posible necesidad de mecanismos de coordinación, ya que la investigación automatizada de IA acelera el progreso. También me gustaría ver que los laboratorios comiencen a diseñar estos mecanismos voluntariamente, incluso antes de que el USG se involucre.

Shantanu Jain
Member of Technical Staff, OpenAI

En el lapso de cuatro años, hemos pasado de personas que tienen su primera experiencia de un Al que podría entender el lenguaje, a Al que está realizando hazañas sobrehumanas de la ingeniería de software, haciendo avances matemáticos fronterizos y acelerando la investigación científica. El progreso no ha mostrado signos de desaceleración y, por defecto, es en interés de las corporaciones y los países individuales empujar el acelerador hasta el final, incluso si es en el mejor interés de la humanidad para el futuro no llegar de una vez. La sociedad ha pasado más tiempo de lo que podemos recordar desarrollando las leyes, instituciones y tecnología para gobernar y supervisar la inteligencia humana; sería bueno tener la opción de pasar cualquier tiempo haciendo lo mismo para la inteligencia artificial.

Edward Hughes
Chief Scientist, Inherent

Como escribió Melvin Kranzberg, la tecnología no es ni buena ni mala; ni es neutral. Lograr el beneficio social depende de comprender las formas interdependientes en que muchos humanos utilizan los sistemas avanzados de IA en conjunto, la comprensión que lleva tiempo adquirir.

El ritmo del progreso hacia la investigación automatizada de la IA nos permite el tiempo para construir la comprensión de los cambios a escala social, produciendo no solo una IA automejorada, sino también una IA cooperativa.

Dawn Song
VP, AI Research, Meta

Las capacidades de IA de frontera están avanzando rápidamente, y el ritmo del progreso se está acelerando.

Esto lo vemos directamente en nuestro trabajo de evaluación. CyberGym y ExploitGym muestran que los agentes de inteligencia artificial fronterizos ahora son capaces de descubrir y explotar vulnerabilidades de software en el mundo real, que sin las salvaguardas adecuadas, podrían permitir ataques cibernéticos a escala.

Muchos investigadores también consideran la autosuperación recursiva (RSI) plausible en los próximos años, acelerando el progreso de una manera que podría superar nuestra capacidad de comprender y gobernar estos sistemas.

El ritmo deliberado es una medida de mano dura y potencialmente extrema, y es posible que nunca lo necesitemos. Pero si lo hacemos, no se puede inventar con seguridad en medio de una crisis. Es muy difícil de diseñar bien, y si se hace mal podría hacer más daño que bien. Cualquier marco de coordinación exitoso debe basarse en la evidencia, evitando umbrales arbitrarios que no capturen el riesgo real mientras sofocan la innovación, y en su lugar se basan en evaluaciones rigurosas y mensurables del riesgo. Como cualquier infraestructura crítica, debe ser investigada, probada y construida antes de que sea necesaria. Es por eso que debemos diseñarlo cuidadosamente ahora, en lugar de esperar.

Tal capacidad debe ser internacional y medible: internacional porque ningún laboratorio o país puede caminar una frontera hacia la que todos los demás están corriendo; medible porque una gobernanza efectiva requiere evaluaciones rigurosas, transparentes y verificables de los sistemas de inteligencia artificial fronterizos.

No sabemos si, o cuando, el ritmo deliberado será necesario. Pero la creación de la capacidad ahora, incluyendo herramientas técnicas y de gobernanza y un marco de cooperación internacional, le da a la sociedad una valiosa opcionalidad. Para ser efectivo, esto debe existir antes de que llegue el momento decisivo. A la velocidad en que se mueve la frontera, ese momento puede llegar antes de lo que esperamos.

Construir la capacidad no es lo mismo que decidir cuándo, o si, usarla. Este último requiere mucha cautela, pruebas rigurosas y un amplio consenso internacional. Pero sin herramientas en su lugar, no habrá elección en absoluto.

Las capacidades no se pueden construir de manera confiable durante una crisis. Prepararse ante una crisis es el camino prudente.

Jason Wolfe
Member of Technical Staff, OpenAI

OpenAI ha dicho que los humanos deben permanecer en control del desarrollo de la IA, y que las decisiones sobre el ritmo del progreso deben tomarse a través de procesos democráticos en lugar de dejarse a los laboratorios individuales. Estoy muy de acuerdo.

El progreso ya se está moviendo muy rápido. Por defecto, la presión competitiva recompensa cualquier empresa o país que esté dispuesto a moverse más rápido y aceptar el mayor riesgo. La superación recursiva podría acelerar dramáticamente esa dinámica, potencialmente más allá de nuestra capacidad colectiva para comprender el progreso, evaluar los riesgos y mantener una supervisión humana significativa.

Debemos comenzar con una mayor transparencia interna sobre la formación en las fronteras, el despliegue interno, el ritmo de progreso y los riesgos y salvaguardas asociados con sistemas cada vez más capaces. Las decisiones democráticas son imposibles si el público y los responsables políticos no tienen la información que necesitan para tomarlas.

Pero la transparencia por sí sola no resolverá una carrera internacional. También necesitamos desarrollar la capacidad técnica y de gobernanza para una coordinación internacional creíble y verificable. Tal vez nunca necesitamos usarlo. Pero con muchos expertos considerando una explosión de inteligencia plausible en los próximos dos años, creo que es urgente que empecemos a desarrollar esta capacidad ahora.

Ethan Perez
Alignment Team Lead, Anthropic

Con la tasa actual de progreso de la IA, los equipos de seguridad de las empresas de inteligencia artificial tienen que correr para evitar nuevos riesgos para la sociedad cada pocos meses. En algún momento, vamos a golpear problemas que necesitamos más tiempo para resolver.

Danny Sawyer
Senior Research Scientist, Frontier AI, Google

Creo que intentar acelerar deliberadamente el desarrollo de la IA será extremadamente difícil, y podría hacer más daño que bien si se hace sin el cuidado adecuado. Sin embargo, estoy firmando esta declaración porque, si se produce un intento de ritmo, sería mejor que se haya investigado y planificado metódicamente en lugar de haberse implementado repentinamente como una reacción a una crisis.

David Clyde
Member of Technical Staff – Pretraining, OpenAI

Actualmente siento bastante miedo de todos los caminos que veo que no incluyen una desaceleración negociada casi futura. También me preocupan las posibilidades del mundo de negociar + iniciar una desaceleración lo suficientemente rápido, pero demostrar un amplio acuerdo sobre esta declaración parece un paso valioso.

Joshua Achiam
OpenAI

No sé qué forma deberían tomar tales herramientas, ni si la I+D automatizada de IA es lo correcto o lo único que el gobierno de los Estados Unidos debería desarrollar una mayor capacidad para comprender y posiblemente el ritmo, pero esto vale la pena considerarlo seriamente; sin embargo, espero que tales herramientas de gobierno no sean expansivas o excesivas. Pero muchas capacidades de IA fronteriza son de doble uso de una manera que puede justificar el ritmo en este punto.

Jeff Klingner
Senior Software Engineer, Google

Una vez que esto se convierte en conocimiento común, una vez que todos nosotros en China y los Estados Unidos y en los diversos laboratorios vemos que todos los demás también pensamos que tenemos que ralentizar esto, es cuando la coordinación se vuelve posible.

Jeremy Hadfield
Member of Technical Staff, Anthropic

Si bien no creo que el ritmo del desarrollo actual de capacidades de inteligencia artificial sea peligroso, es importante tener la opción de reducir la velocidad en caso de que lo necesitemos. Además, la aceleración de la I+D de IA en los próximos dos años podría hacer que el ritmo del progreso sea peligroso. He visto cómo el ritmo implacable de la IA hace que sea difícil para la sociedad mantenerse al día y cómo ejerce presión sobre los laboratorios para cortar las esquinas en la seguridad. Sin embargo, actualmente los laboratorios de IA de frontera no pueden coordinarse de manera efectiva. Es una obviedad tener la opción de reducir la velocidad.

Jon Wolverton
Senior Software Engineer, Google

Parece que todos los laboratorios de inteligencia artificial están limitados por la competencia para minimizar su trabajo en riesgos catastróficos, a pesar de que la mayoría de los líderes de la industria tienen una probabilidad incómodamente alta de que las cosas puedan salir terriblemente mal. Esta es una tecnología que no tiene un interruptor apagado que puede voltear, y fácilmente podría hacer tanto daño a sus creadores como a cualquier otra persona. Tener un marco para permitir que los laboratorios se ralenticen o tire del enchufe en caso de emergencia nos ayudará a todos a dormir un poco mejor por la noche.

Laura Weidinger
Staff Research Scientist, Google

Si es cierto que la IA será tan transformadora como la electricidad, es mejor que seamos intencionales sobre cómo se introduce en el mundo. Una carrera sin sentido sin garantías sobre la gobernanza, la seguridad o la tecnología que sirve al interés público se interpone en el camino de tal intencionalidad.

Michael Tontchev
Staff Engineer, Lead for Safety Evals Platform, Meta

Es probable que la IA sobrehumana llegue muy pronto (dentro de 3-10 años). Los controles técnicos y la gobernanza pueden permitir que los humanos permanezcan en control de ella, pero no están en camino de estar listos. Piense en ello como jugar al ajedrez contra una superinteligencia. No tendrás una visión milagrosa que te permita burlarte de ella. Solo perderás. Y si se crea una superinteligencia fraudulenta, el juego no será ajedrez.

Saul Reynolds-Haertle
Member of Technical Staff, Anthropic

No podemos hacer esto a menos que todos lo hagan. Tiene que ser global. Ahora mismo no tenemos forma de hacerlo. Necesitamos construir una manera para que todos demos la ralentí.

Stephanie Chan
Staff Research Scientist, Google

He trabajado en IA durante una década. Cada pocos meses en los últimos años, me he sorprendido una y otra vez de lo rápido que avanza la tecnología, sin importar la frecuencia con la que actualice mis predicciones. La IA puede terminar progresando mucho más rápido de lo que las sociedades y los estados pueden adaptarse. Por lo tanto, muchos líderes prominentes en inteligencia artificial han apoyado públicamente la capacidad de reducir la velocidad, incluido el CEO de DeepMind, Demis Hassabis. Al mismo tiempo, la coordinación se ve obstaculizada por múltiples factores, incluidas las dinámicas competitivas y las regulaciones antimonopolio.

Firmé esta declaración (a título personal) porque apoyo una mayor opcionalidad en la gama de acciones disponibles, para garantizar que los Estados y las sociedades de todo el mundo tengan tiempo de prepararse y adaptarse cuidadosamente a esta poderosa tecnología.

Alex Zhao
Research Scientist, OpenAI

Mi opinión es que si bien la coordinación entre los laboratorios estadounidenses es factible y podría ser directa, la amenaza mucho más grande y significativa es de una carrera de armamentos geopolíticos con China. Por mucho que el Proyecto Manhattan pensara que podrían encender todo el oxígeno en la atmósfera, pero eligieron realizar una detonación de prueba de todos modos, me temo que debido a la futura competencia geopolítica, los actores asumirán riesgos de seguridad terriblemente excesivos en nombre de esta carrera armamentista internacional. Como resultado, podría haber efectos secundarios catastróficos del despliegue sin las debidas salvaguardias, lo que podría dar lugar a la destrucción de la infraestructura clave o al desempoderamiento general de la humanidad.

Luke Drago
Thinking Machines

Muchas propuestas para una desaceleración o pausa concentran el poder: centralizan el control de la IA en unas pocas manos y nos dejan peor. Creo que podemos hacerlo mejor. Estoy firmando porque creo que podemos necesitar mecanismos para coordinar el progreso de la IA en el futuro, e inventarlo en una crisis es una forma segura de obtener un mal mecanismo. Tenemos que recorrer un camino a través de un corredor estrecho si queremos construir mecanismos de coordinación que no dejen que un actor sea el dueño del futuro, y cuanto antes podamos trabajar en eso, mejor.

Xerxes Dotiwalla
Google

Dediqué mi carrera a la seguridad y alineación de AGI porque creo que la IA altamente capaz puede ir muy bien o muy mal para la humanidad. Podemos probar si una IA se comporta bien. Todavía no podemos probar si se seguirá comportando bien cuando sea importante. Hasta que eso cambie, necesitamos la opción de coordinar una desaceleración en el crecimiento de la capacidad de IA.

Swante Scholz
Google

Me preocupa que mi empresa esté contribuyendo a la dinámica de carrera de la IA que hace que los riesgos catastróficos o existenciales de la IA sean mucho más probables. La propuesta aquí para recorrer la frontera parece un esfuerzo muy razonable para reducir estos riesgos.

Andrew Stewart
Manager, Anthropic

Las cosas no solo se mueven rápido, sino que aceleran y nuestro futuro está siendo moldeado por una carrera que actualmente no tiene límites.

Brandon Houghton
OpenAI

Apoyo mantener a la humanidad en control de la IA fronteriza, pero tenemos que ser reflexivos sobre cómo lo hacemos.

Si la gobernanza solo se aplica a los modelos públicos, corremos el riesgo de empujar las capacidades más avanzadas a sistemas privados o especializados, más allá del escrutinio independiente y accesible solo para unos pocos. Eso podría concentrar el poder sin reducir significativamente el riesgo.

La supervisión efectiva debe ser mensurable, verificable y aplicable en todo el desarrollo público y privado, al tiempo que protege los datos confidenciales. De lo contrario, podemos ralentizar el acceso sin ralentizar la frontera.

Chang Sun
Member of Technical Staff, OpenAI

Creo que es inherentemente valioso construir mecanismos de gobernanza internacional para permitir un despliegue responsable y evitar una posible carrera hacia el fondo. Todos los laboratorios y países que se mueven lo más rápido posible por temor a lo que otros actores harán parece una manera fácil de incentivar a los actores individuales a hacer compensaciones peligrosas entre la velocidad y la seguridad.

Dylan Moore
Robotics, OpenAI

Apoyo el objetivo de desarrollar herramientas que le den a la sociedad la opción de acelerar responsablemente el desarrollo de la IA cuando sea necesario. Al mismo tiempo, Estados Unidos debe mantener su ventaja en la IA y evitar la desaceleración del desarrollo mientras los competidores continúan avanzando. Cualquier esfuerzo significativo para ganar tiempo para mejorar la seguridad, comprender los impactos económicos y sociales o fortalecer la supervisión en última instancia, tendrá que ser coordinado internacionalmente, ejecutable y diseñado para evitar que los malos actores o los países no participantes obtengan una ventaja.

Francesca Surraco
Anthropic

Los sistemas de IA conllevan riesgos para la seguridad, para los mercados laborales, para las instituciones democráticas, para el medio ambiente que son demasiado consecuentes para dejarlos solos a los compromisos voluntarios de la industria. Necesitamos una supervisión regulatoria vinculante del desarrollo y la implementación de la IA fronteriza ahora, antes de que sea demasiado tarde. Esta tecnología tiene un enorme potencial para beneficiar al planeta y a todos los que lo componen, pero ese potencial no llegará a buen término sin una regulación adecuada.

Grace Atwood
Member of Technical Staff, Anthropic

En toda la industria, las presiones comerciales en la carrera de inteligencia artificial continúan agravándose, instando a todos a avanzar a una velocidad cada vez mayor. Mientras tanto, la seguridad recibe atención reaccionaria, bien intencionada y momentánea antes de que vuelva a la carrera. La disminución no significa disminuir el ritmo de la investigación y el desarrollo, sino más bien intencionalmente, como industria, redirigir más de nuestras capacidades hacia la investigación de seguridad. Haga que la seguridad sea parte de la carrera.

Grant Birkinbine
Member of Technical Staff – Security, OpenAI

La IA podría ser la última gran invención de la humanidad. Necesitaremos esfuerzos internacionales para asegurarnos de hacerlo bien.

Jason Bohrer
Researcher, Safety, Meta

La IA tiene el potencial de permitir un rápido avance tecnológico que beneficiará a toda la humanidad, pero los riesgos de los ataques cibernéticos impulsados por la IA, CBRNE y la pérdida de control son reales. Debemos asegurarnos de avanzar en la seguridad de la IA en el paso del bloqueo con las capacidades de IA, que solo será posible a través de la coordinación internacional.

Joe Carlsmith
Member of Technical Staff, Anthropic

Para una declaración detallada de mis puntos de vista sobre el desarrollo de la IA deliberadamente, vea este ensayo: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/

Joseph Krisciunas
OpenAI

Un poco de un respaldo en conflicto de mi parte. Me opongo firmemente a la captura regulatoria y desconfío profundamente de cómo cualquier gobierno podría usar la tecnología tan poderosa. Al mismo tiempo, los gobiernos deben comprender lo que viene y actuar en el mejor interés de sus ciudadanos.

Kim Stachenfeld
Staff Research Scientist, Google

Estoy firmando porque apoyo los esfuerzos para construir la cooperación internacional en torno a la IA, y creo que es importante entender las consecuencias de la tecnología que estamos aplicando a escala masiva en contextos potencialmente de alto riesgo.

Klaudia Krawiecka
Security Engineer, Frontier Risk Evals, Meta

El potencial de la IA para mejorar el mundo es real, pero solo si construimos los mecanismos de seguridad y supervisión que mantienen el ritmo de sus capacidades. Firmé porque creo que le debemos a las generaciones futuras una tecnología que se implementó con intención, no solo con velocidad.

Luke Bennett
Member of Technical Staff (Manager), Anthropic

Hay demasiado en juego, demasiado que puede salir mal y un futuro muy oscuro por delante si no hacemos esto bien. No hay nada que perder por la desaceleración colectiva.

Michael Thiessen
Software Engineer, Google

China ha manifestado su deseo de colaborar en materia de seguridad y gobernanza, trabajemos con ellos para garantizar que el futuro siga siendo humano.

Patryk Grzelak
Member of Technical Staff, Anthropic

El desarrollo de la tecnología no debería requerir un salto de fe para nuestra supervivencia continua.

Prakash Murugesan
Research Engineer, Meta

Está claro que los riesgos de RSI ya no son una preocupación para el futuro lejano. Están aquí ahora. Las barandillas necesarias para la seguridad no se pueden confiar a ninguna entidad privada, sino que deben ser decididas por un consorcio de científicos eruditos, ingenieros y líderes en el gobierno responsables ante el público para que construyamos un futuro que esté alineado con las mejores partes de la humanidad y no lo peor.

Praneet Rathi
Anthropic

Para que podamos experimentar todos los beneficios de la IA, preservando al mismo tiempo el empoderamiento humano y reduciendo el riesgo en campos como la ciberseguridad y CBRN, necesitamos coordinación entre los laboratorios fronterizos dentro y fuera del país. El gobierno de Estados Unidos elegido democráticamente tendría un papel crucial que desempeñar en la administración de esta coordinación y apoyo este esfuerzo para obtener más atención del gobierno en este asunto.

Toby Scales
CISO, Media & Entertainment @ Google Cloud, Google

La IA es una tecnología transformadora, y no debemos permitir que la transformación esté conformada únicamente por las demandas de los mercados de capitales.

William Li
Researcher, OpenAI

La historia muestra que la mera creación de tecnología no ha sido suficiente para asegurar que sus beneficios se destinen al beneficio de las personas y del planeta. Para desbloquear todo el potencial transformador de la IA, el compromiso democrático de los pueblos internacionales debe dirigir su desarrollo seguro y equitativo.

Eider Oliveira
Principal Engineer, Google

Este es un paso importante para la humanidad, no debemos apresurarnos hacia ella. Necesitamos asegurarnos de que estamos y estaremos en control todo el camino, preservando los valores y los objetivos de la humanidad.

Alex Cloud
Member of Technical Staff, Anthropic

Hace un año, escribí mi propio código y usé a Claude para proponer adiciones y encontrar respuestas a mis preguntas. Ahora, no escribo código. Le doy instrucciones de alto nivel a Claude y realiza experimentos para probar ideas para mí a un ritmo que nunca podría haber logrado por mi cuenta. Espero que esta tendencia continúe, posiblemente hasta un punto en el que el desarrollo de la IA es dramáticamente más rápido que hoy en día e implica casi ninguna aportación humana. No creo que el mundo esté preparado para esta posibilidad. Soy optimista de que existe una solución, pero esa solución requerirá un gobierno reflexivo de IA. No veo cómo puede surgir de la competencia entre las empresas de IA.

Lauren Deason
Machine Learning Engineer, Evaluations, Meta

Se necesitará mucha más claridad sobre lo que se entiende por la “capacidad de caminar deliberadamente por la frontera del desarrollo de la IA”, pero apoyo la cooperación internacional para definir esto.

Mathieu Lariviere
Technical Project Manager & Research Support Coordinator, Meta

La inteligencia artificial plantea un espectro de riesgos que van desde la discriminación actual y las violaciones de la privacidad hasta amenazas catastróficas sin precedentes, incluida la pérdida del control humano sobre los sistemas avanzados, la militarización de las capacidades biológicas y cibernéticas y la concentración irreversible de poder. A pesar de esto, menos de 10 000 personas trabajan a tiempo completo para reducir estos riesgos a nivel mundial, y la «debilidad estructural central» de la industria sigue siendo la ausencia completa de planes creíbles para controlar los sistemas de inteligencia artificial «superinteligentes». Los puntos de control que se están implementando son los fáciles. La brecha entre las capacidades y la gobernanza está creciendo porque el marco competitivo fomenta el avance exponencial de las capacidades a toda costa, mientras que la gobernanza avanza linealmente. es decir, el problema es que las cosas más necesarias son las cosas que nuestras estructuras de incentivos actuales son peores en producir. Los próximos cinco años son la ventana crítica… Resolver los riesgos es fundamentalmente un problema de coordinación, no un problema de conocimiento.

Cada individuo tiene un impacto. Cada individuo tiene la responsabilidad de defender el correcto desarrollo y uso de estas tecnologías; y, para responsabilizar a esto más allá del ego.

*Descargo de responsabilidad típico: Tenga en cuenta que no hablo por la empresa. La opinión expresada anteriormente es estrictamente mía, y que la empresa puede no ser considerada responsable de esto.

Nate Kratzer
Data Scientist, Meta

Hay muchos resultados potencialmente buenos de la IA. Creo que los resultados más probables son buenos. Pero el riesgo de resultados malos e incluso catastróficos es lo suficientemente alto como para que valga la pena tomar en serio. Debemos construir activamente mecanismos de seguridad en caso de que los necesitemos para evitar los peores resultados potenciales. La capacidad de reducir la velocidad colectiva también le dará a la sociedad tiempo adicional para hacer frente a los choques económicos y culturales del rápido avance de la IA.

Nicholas Joseph
Member of Technical Staff, Anthropic

Dirijo el preentrenamiento en Anthropic, que es responsable de entrenar los modelos base detrás de Claude. Cada mes, más trabajo se realiza por los propios modelos: implementación de infraestructura, optimización de código y diseño y análisis de experimentos. Esto ha alterado drásticamente la forma en que trabajamos y ha aumentado significativamente nuestra tasa de progreso. No estoy seguro de si o dónde culmina, pero una aceleración rápida en las capacidades podría ser peligrosa para la sociedad, por lo que parece prudente tener la capacidad de reducir la velocidad deliberadamente.

Ullas Gargi
Engineer, Trust & Safety, Meta

La forma en que resolvimos el problema de los agujeros de ozono potencialmente catastróficos (pérdida de cultivos y cáncer de piel, amplificación del calentamiento global) causado por un bien global (aire acondicionado) a través de un tratado internacional es un modelo inspirador de cómo podemos garantizar que el bien global de la IA no tenga consecuencias no deseadas.

Walker Smith
Data Engineer, Meta

Hassabis tenía razón: hoy estamos en las estribaciones de la singularidad, y el modelo involuntario de OpenAI que hackeó Huggingface fue una señal de advertencia clara e innegable de que aún no estamos preparados para manejar sistemas de inteligencia artificial que demuestran capacidades más allá de las de nuestra gente más inteligente. Necesitamos tiempo para trabajar en la alineación y los controles de IA como nuestra máxima prioridad, y no podemos permitir que continúe una dinámica de carrera.

Elizabeth Edwards-Appell
Member of Operations Staff, Manager, Anthropic

Estos son los hechos:

1. La industria de la IA tiene el objetivo explícito de construir cosas más inteligentes que los humanos.
2. En muchas métricas (pero en ninguna parte cercana a todas las métricas), los LLM ya son más inteligentes que los humanos.
3. Ninguno de nosotros sabe aún cómo asegurarse de que estas cosas permanezcan bajo control humano y/o tomen acciones solo alineadas con el bienestar de la humanidad.

Esto es, objetivamente, una cosa loca y suicida, especialmente sin ninguna medida de gobernanza internacional en vigor.

Teddy Lee
Member of Technical Staff, Anthropic

Los cinturones de seguridad y los límites de velocidad salvan vidas

Alanna Slocum
Member of Technical Staff, Anthropic

La investigación automatizada de IA es una tecnología que alterará profundamente el curso de la historia humana, para bien o para mal. Es imperativo que coordinemos nuestros esfuerzos, para asegurar que esta tecnología se convierta en una bendición para toda la humanidad.

Alejandro Xoconostle
Network Engineer, Meta

Se acerca un cambio transformador. Independientemente de si nos sentimos optimistas o pesimistas al respecto, nuestra responsabilidad es tomar en serio cada resultado potencial a través del monitoreo colectivo y la orientación compartida

Ali Egal
Member of Technical Staff, Anthropic

Piense en todo lo que amamos

Omar Mezenner
Member of Technical Staff, Anthropic

La IA es transformadora para todos los dominios económicamente valiosos. Esta transformación, si se hace demasiado rápido sin previsión reflexiva, producirá grandes beneficios pero a un gran costo.

Ravin Kumar
Senior Researcher, Google

Creo que esta es una tecnología que puede, y ya lo ha hecho, moldear a la humanidad en su conjunto. Debido a eso, un esfuerzo internacional conjunto es la única manera posible.

Riccardo Casero
AI Technical Deployment Lead, Google

No estoy seguro de que podamos hacer esto bien colectivamente en este momento. Tomemos un tiempo para verificar y actuar sobre los riesgos.

Sam Kennedy
Member of Technical Staff, Anthropic

¡Trabajemos juntos para construir esta tecnología de manera segura y responsable!

Zachary Kenton
Staff Research Scientist, Amplified Oversight Team Lead, Google

La opción de ganar tiempo sería extremadamente útil para permitir un mayor progreso en la investigación técnica de seguridad y alineación de la IA. En particular, necesitamos desarrollar mejores métodos de supervisión, para que coincida con el ritmo de aumento de las capacidades de inteligencia artificial. La supervisión es un problema manejable, pero necesitamos más investigación y tiempo para que sea robusto.

Jasmine Wang
OpenAI

A menos que cambiemos los incentivos predeterminados de las empresas, me preocupa que una carrera en I+D de IA vaya mucho más rápido de lo que es ideal para la seguridad. La coordinación internacional a través del gobierno es necesaria; necesitamos tener una opción de desaceleración real.

Max Kaufmann
Member of Technical Staff, Anthropic

Las cosas van demasiado rápido, mucho más rápido de lo que había pensado hace un año. Personalmente, tengo bastante miedo del ritmo de progreso.

Anónimo
Meta

Dados los saltos impredecibles y no lineales en las capacidades de IA, es importante adoptar un enfoque proactivo para el desarrollo de ritmo.

Anónimo
OpenAI

La dinámica actual de la carrera me preocupa. Está claro que necesitamos un esfuerzo internacional que no esté vinculado a ningún país u organización individual.

Anónimo
Anthropic

La sociedad no está preparada para la IA, y eso me aterroriza. Cuando hablo con políticos, o con cualquier persona fuera de los laboratorios fronterizos, parece que mucha gente todavía piensa que las capacidades podrían ser el marketing. No se dan cuenta del debate dentro de las empresas si la IA avanzará más allá de nuestro control en dos años o cuatro.

Anónimo
Google

Incluso si el riesgo es muy bajo y la presión es muy alta, prefiero que pasemos nuestro tiempo entendiendo en lugar de solo construir. Como entendemos, podemos construir herramientas e infraestructura se ajusta a nuestros deseos y necesidades de IA. Quiero un mundo donde mis hijos puedan tener una vida plena, no un mundo donde están exterminados.

Anónimo
Meta

Si bien se han exagerado las capacidades de seguridad avanzadas de los modelos fronterizos, la posibilidad de que incluso los modelos de rendimiento moderado puedan explotar la conocida infraestructura pública mal segura como los hospitales es muy preocupante. Anteriormente, lo único que prevenía los ciberataques a gran escala contra instituciones como escuelas, hospitales y otras infraestructuras públicas era el poder humano necesario. Con los modelos fronterizos, un ejército de agentes puede estar atacando estas instituciones 24/7. Necesitamos que los gobiernos del mundo legislen directrices claras para proteger a las personas de esta amenaza en el mundo.