Por Adriana Ema Fernández.
¿ESTAMOS ANTE UNA AMENAZA TECNOLÓGICA REAL O ANTE UNA NUEVA FASE DEL MARKETING DE SILICON VALLEY, DONDE EL MIEDO TAMBIÉN COTIZA?
Hay momentos en la historia tecnológica en los que una industria deja de hablar de sus posibilidades y empieza, de repente, a hablar de sus peligros. Sospecho que estamos entrando en uno de ellos.
Los mismos ejecutivos que durante años nos dijeron que la inteligencia artificial iba a transformar la economía, multiplicar la productividad, revolucionar la medicina y cambiar nuestra manera de trabajar empiezan ahora a advertirnos de que quizá hemos ido demasiado de prisa.
No parece ser una pequeña contradicción. Es, posiblemente, la gran pregunta política y económica de nuestro tiempo.
Detrás de la discusión sobre la inteligencia artificial hay otra discusión mucho más incómoda: ¿quién controla a quienes están construyendo una tecnología que puede llegar a tener capacidades que sus propios creadores reconocen que no comprenden completamente?
Dario Amodei, CEO de Anthropic, ha pedido públicamente que se reduzca el ritmo de desarrollo de los sistemas de inteligencia artificial más avanzados. Su advertencia es extraordinariamente grave: agentes autónomos cada vez más capaces podrían provocar daños a gran escala si no se establecen mecanismos de seguridad y supervisión. Sam Altman, Elon Musk y Demis Hassabis han respaldado, con distintos matices, la necesidad de introducir frenos.
Y aquí comienza la paradoja, porque no estamos hablando de científicos externos, de activistas antitecnología o de políticos alarmistas. Estamos hablando de los propios protagonistas de la carrera.
Los hombres que construyen los modelos son ahora quienes dicen que quizá haya que reducir la velocidad.
La pregunta, por tanto, ya no es si la inteligencia artificial es peligrosa.
La pregunta es cuánto peligro estamos dispuestos a aceptar a cambio de mantener la ventaja tecnológica y económica.
El peligro no es solamente que la máquina se rebele. Conviene escapar de la ciencia ficción, El riesgo de la inteligencia artificial no consiste necesariamente en que una máquina despierte un día y decida destruir a la humanidad.El problema puede ser mucho más cotidiano.
Un sistema capaz de operar de forma autónoma puede escribir código, buscar vulnerabilidades, manipular información, generar campañas de desinformación, automatizar fraudes o coordinar cientos de acciones simultáneamente.
Y cuanto más autónomo sea el sistema, menos importante será quién haya escrito originalmente el código. Este es el salto conceptual.
Hasta ahora, una herramienta tecnológica hacía aquello que una persona le ordenaba. La inteligencia artificial empieza a acercarnos a otra situación: sistemas capaces de decidir qué pasos necesitan dar para conseguir un objetivo.
Y cuando la capacidad de ejecutar acciones crece más deprisa que nuestra capacidad para supervisarlas aparece el verdadero problema.
No hace falta imaginar robots asesinos. Basta con imaginar millones de decisiones automatizadas que nadie controla completamente.
Entonces aparece la política.
Durante mucho tiempo, Silicon Valley sostuvo una idea sencilla: la innovación debía ir más rápido que la regulación.
Ahora la realidad empieza a invertir la ecuación.
Si una tecnología puede afectar simultáneamente al empleo, a los mercados financieros, a la seguridad nacional, a la información pública, a la privacidad, a la educación y a la democracia, dejar su regulación exclusivamente en manos de las empresas resulta difícilmente defendible.
Pero hay otra dificultad.
¿Quién regula a una tecnología que evoluciona más deprisa que el Estado que pretende regularla?
La Unión Europea ha intentado avanzar mediante normas sobre inteligencia artificial. Estados Unidos mantiene una posición mucho más fragmentada y profundamente condicionada por la competición tecnológica con China.
Y China constituye el tercer elemento de esta ecuación.
Porque Pekín también reconoce los riesgos de la inteligencia artificial, pero los aborda desde una estructura diferente.
El Estado chino ha optado por una estrategia diferente: acelerar el desarrollo de la inteligencia artificial, pero integrándolo dentro de una planificación tecnológica y económica fuertemente conducida por el poder público. Allí la regulación no se plantea necesariamente como un freno externo a las empresas, sino como parte de la propia estrategia de desarrollo. Esta diferencia resulta fundamental para comprender la competencia con Estados Unidos. Mientras Washington intenta preservar el liderazgo mediante la potencia de sus grandes empresas tecnológicas y una regulación que no reduzca su capacidad competitiva, China procura combinar inversión estatal, infraestructura, investigación, empresas nacionales y conducción política. La carrera, entonces, no es únicamente tecnológica: es también una disputa entre diferentes formas de organizar el poder económico y político alrededor de una tecnología estratégica.
Pero tampoco deberíamos caer en la simplificación de presentar a China como el modelo alternativo ideal. Una regulación pública fuerte puede permitir mayor capacidad de planificación y velocidad, pero también puede concentrar un enorme poder de vigilancia y control social. El verdadero desafío consiste en encontrar un tercer camino: una inteligencia artificial sometida a reglas públicas, pero también a controles democráticos, derechos humanos, transparencia y participación social.
La cuestión no debería ser quién corre más rápido, sino quién tiene capacidad para decidir hacia dónde se corre y con qué límites.
Si Estados Unidos teme perder su liderazgo frente a China, y China acelera para no quedar subordinada tecnológicamente, existe el riesgo de que ambas potencias conviertan la seguridad de la humanidad en una variable secundaria de la competencia geopolítica.
Y aquí resulta particularmente pertinente recuperar la interpretación de Samir Amin sobre el actual sistema mundial y los cinco monopolios del capitalismo. Amin sostiene que la dominación contemporánea no depende exclusivamente de la propiedad industrial o de la acumulación de capital, sino de la concentración de capacidades estratégicas que permiten controlar las condiciones de producción y reproducción del poder a escala mundial. Entre esos monopolios se encuentran el tecnológico, el financiero, el control de los recursos naturales, el control de los medios de comunicación y el monopolio de las armas de destrucción masiva.
Desde esta perspectiva, la inteligencia artificial puede ser interpretada como una nueva dimensión que profundiza y articula varios de esos monopolios. El dominio de la IA exige capacidades científicas, infraestructura digital, semiconductores, centros de datos, energía, capital financiero, acceso masivo a datos y control de plataformas de comunicación. Por lo tanto, no estamos simplemente frente a una nueva herramienta informática: estamos frente a una tecnología capaz de reforzar las estructuras existentes de concentración del poder mundial.
La cuestión tecnológica adquiere así una dimensión geopolítica.
Los países que controlen los componentes estratégicos de la inteligencia artificial podrán disponer de ventajas no solamente económicas, sino también militares, financieras, comunicacionales y culturales. La IA puede convertirse, entonces, en un mecanismo de reproducción de las desigualdades entre los centros dominantes y las periferias del sistema mundial.
Desde la lectura de Amin, el problema central no sería únicamente quién desarrolla la inteligencia artificial, sino quién controla las condiciones materiales, científicas, financieras y políticas que permiten desarrollarla.
Los grandes centros tecnológicos concentran talento científico, inversiones, infraestructura computacional, propiedad intelectual y acceso a enormes volúmenes de datos. Las economías periféricas, en cambio, corren el riesgo de quedar reducidas al papel de consumidoras de tecnologías producidas en otros centros de poder.
La paradoja se vuelve entonces todavía más profunda.
Aquello que se presenta como una tecnología universal puede estar construido sobre una estructura económica profundamente desigual.
Y allí aparece uno de los problemas centrales para América Latina: si la inteligencia artificial se desarrolla dentro de un sistema mundial caracterizado por la concentración de capacidades estratégicas, la incorporación pasiva de estas tecnologías puede reproducir la dependencia tecnológica en lugar de superarla.
La pregunta latinoamericana no debería limitarse a cómo utilizar la inteligencia artificial.
Debería preguntarse también quién la produce, con qué recursos, bajo qué reglas, para beneficio de quién y bajo qué relaciones de dependencia internacional.
¿Estamos ante una amenaza tecnológica real o ante una nueva fase del marketing de Silicon Valley, donde el miedo también cotiza?
La pregunta no es menor.
Las advertencias de los propios CEO sobre los riesgos de la inteligencia artificial pueden expresar una preocupación genuina, pero también pueden cumplir una función estratégica dentro de un mercado extremadamente competitivo.
Presentarse como la empresa más consciente de los peligros puede convertirse, paradójicamente, en una forma de construir legitimidad, atraer inversiones, influir sobre los gobiernos y participar en el diseño de las futuras reglas del juego.
Quien consigue instalar la idea de que sus modelos son tan poderosos que necesitan una regulación especial también puede estar contribuyendo a consolidar su posición frente a competidores más pequeños.
El riesgo, entonces, es que el discurso sobre la seguridad termine funcionando como una nueva herramienta de concentración del mercado: solo las grandes corporaciones tendrían los recursos necesarios para cumplir con las exigencias regulatorias y desarrollar sistemas considerados suficientemente seguros.
Esta posibilidad puede leerse también desde Amin: el monopolio tecnológico no solamente consiste en poseer una determinada tecnología, sino en controlar las condiciones de acceso a ella. Si la regulación exige inversiones en infraestructura, auditorías, capacidad computacional y mecanismos de seguridad que únicamente las grandes corporaciones pueden financiar, una política concebida para proteger a la sociedad podría terminar consolidando precisamente a los actores que pretende controlar.
Por eso la discusión sobre regulación no puede reducirse a una oposición entre mercado y Estado.
El problema es más complejo.
Se trata de determinar si las reglas serán diseñadas por los Estados en función del interés público o si serán elaboradas, directa o indirectamente, por las propias corporaciones que poseen las capacidades tecnológicas necesarias para imponer las condiciones del mercado.
Sin embargo, reducir todas estas advertencias a una estrategia de marketing sería igualmente peligroso.
Existen riesgos tecnológicos concretos asociados con sistemas cada vez más autónomos, capaces de operar a gran escala y de intervenir simultáneamente sobre información, mercados, infraestructura y relaciones sociales.
La cuestión fundamental es no permitir que el miedo sea utilizado ni para paralizar el debate público ni para justificar una carrera tecnológica sin límites.
El problema no es elegir entre creerles ciegamente a los CEO o desconfiar de todo lo que dicen: es construir mecanismos independientes capaces de evaluar sus afirmaciones y controlar sus intereses.
Si el peligro es real, la sociedad necesita regulación; y si el miedo también forma parte de una estrategia empresarial, necesita todavía más regulación.
En ambos casos, la respuesta no puede quedar exclusivamente en manos de quienes producen la tecnología: debe existir una autoridad pública, democrática e internacional capaz de establecer límites allí donde el mercado tiene incentivos para seguir avanzando.
Desde la perspectiva de Samir Amin, esto implica además cuestionar la estructura mundial que permite que determinadas corporaciones y determinados Estados concentren las capacidades estratégicas mientras otros países quedan subordinados tecnológicamente.
Por eso, el debate sobre inteligencia artificial no puede ser solamente un debate sobre algoritmos.
Es un debate sobre poder.
Es un debate sobre quién controla el conocimiento, quién posee la infraestructura, quién dispone del capital, quién administra los datos y quién define las reglas.
Y, finalmente, es un debate sobre soberanía.
La verdadera pregunta del siglo XXI quizá no sea si las máquinas llegarán a ser más inteligentes que los seres humanos, sino qué seres humanos y qué estructuras de poder controlarán esas máquinas.
Si la inteligencia artificial queda subordinada a la lógica de los monopolios, puede profundizar las desigualdades existentes y convertirse en un nuevo mecanismo de concentración económica y geopolítica.
Si, en cambio, es sometida a controles públicos, democráticos, internacionales y orientados por los derechos humanos, puede convertirse en una herramienta para ampliar capacidades sociales y científicas.
La discusión, entonces, no debería consistir solamente en detener la inteligencia artificial.
Debe consistir en democratizar las condiciones de su producción, limitar la concentración de poder y garantizar que una tecnología de alcance mundial no quede bajo el control exclusivo de quienes poseen los recursos para construirla.
La perspectiva de Amin permite que el texto pase de una crítica sobre la paradoja de los CEO a una lectura más estructural: la IA aparece como parte de la concentración tecnológica del capitalismo contemporáneo, y la regulación deja de ser solamente una cuestión de seguridad para convertirse en una cuestión de poder, dependencia, soberanía y desigualdad mundial.