A finales del mes pasado, OpenAI lanzó una misión bastante grandiosa: nada menos que defender la libertad política individual en una era de máquinas todopoderosas. El equipo "Strategic Futures" de la compañía se ha presentado, en cierto sentido, como heredero de la tarea de los Padres Fundadores de Estados Unidos: "Trabajamos al servicio de los ideales de libertad de expresión y libertad individual consagrados en el humilde pergamino de la Constitución de los EE. UU.", escribió Dean Ball, líder del equipo, en una nueva publicación de blog de OpenAI. (La publicación comienza con una cita de James Madison en El Federalista).

Ball se preocupa de que la IA avanzada pueda concentrar radicalmente el poder en manos de quienes la controlan, desplazando la mano de obra de maneras que desempoderen a los humanos. En un escenario extremo, los gobiernos no tendrían necesidad de escuchar a sus ciudadanos si hay robots para librar guerras y software omnisciente para administrar la burocracia. A Ball le interesa estudiar qué nuevas instituciones políticas podrían ser necesarias para evitar este destino.

Muchos estadounidenses, una mayoría de los cuales expresa desconfianza hacia la industria de la IA, indignación por los centros de datos y temores sobre su seguridad laboral, ya parecen sentir esta pérdida de agencia muy profundamente. Y el auge de la IA ya ha generado enormes cantidades de riqueza en un puñado de empresas tecnológicas, incluida la propia OpenAI. Como mínimo, es paradójico que una de las empresas más influyentes de la industria más poderosa del mundo denuncie la concentración de poder habilitada por la IA. Así que me comuniqué con Ball para entender más sobre su inquietud acerca de la industria en la que trabaja, y cómo quiere ver que Estados Unidos se adapte a la IA.

Ball, que estudia políticas de IA, es una especie de celebridad menor en la industria. El año pasado, se unió a la Casa Blanca como asesor de IA y ayudó a redactar el Plan de Acción de IA de la administración Trump, una hoja de ruta política para la tecnología. Finalmente, salió de la administración, aparentemente en buenos términos, antes de criticarla públicamente durante su disputa con Anthropic a principios de este año. Luego, en julio, se unió a OpenAI. "Mi opinión es que básicamente ya tenemos IA transformadora en el mundo ahora", me dijo Ball. "Estás viviendo en un mundo que se está transformando. Está sucediendo".

Esta conversación ha sido editada por longitud y claridad.

Matteo Wong: Usted escribe que la concentración de poder a través de la IA podría trastocar las libertades humanas básicas consagradas en la Constitución de los EE. UU. ¿Puede explicar cómo?

Dean Ball: Fundamentalmente, el poder político es la capacidad geográficamente limitada de ejercer el monopolio de la fuerza legítima y la violencia. Hacerlo hasta ahora ha requerido la cooperación de un gran número de seres humanos. Se necesitaban ejércitos, se necesitaba gente en esos ejércitos, y se necesitaba gente para mantener a esos ejércitos alimentados y abastecidos. Y se necesitaba gente para pagar todo eso a través de impuestos. Así que la gente tenía un asiento en la mesa porque, en cierto sentido, todo es proporcionado por ellos.

Ahora hay que suponer que la robótica va a avanzar pronto de la misma manera que lo ha hecho la inteligencia digital general. Quizás tome más tiempo de lo que pienso. Pero en ese punto, la capacidad de proyectar violencia ya no requiere personas. Y también es concebible que la IA pueda generar ingresos suficientes para que el gobierno no necesite depender de impuestos a las personas.

Si miras la política de la IA, creo que los estadounidenses son inteligentes y tienen la sensación de que su asiento en la mesa podría estar encogiéndose. Tienen razón en estar asustados.

Wong: Estás hablando de concentración de poder en el gobierno, pero la IA generativa es una tecnología desarrollada en el sector privado. Existe potencial para una concentración de poder rara e incluso sin precedentes en la industria. ¿Qué riesgos plantea eso?

Ball: No se trata de evitar toda concentración de poder, sino de equilibrarla. Si esta era da lugar a corporaciones que tengan una tremenda cantidad de poder en el mundo, creo que eso es bueno, siempre y cuando esas organizaciones estén gobernadas. En otras palabras, siempre y cuando el gobierno que las supervisa