Inteligencia artificial: entre la amenaza y la negativa a poner límites

Por Célida Godina Herrera

                             «El verdadero límite de la técnica no está en lo que puede hacer, sino     

                                         en aquello que una humanidad responsable decide no hacer.»

En los últimos días, el debate sobre la inteligencia artificial ha dado un giro inquietante.

Quienes dirigen algunas de las empresas responsables de desarrollar los sistemas más avanzados comienzan a advertir públicamente sobre los riesgos de una tecnología que ellosmismos continúan impulsando.

Dario Amodei, director ejecutivo de Anthropic, ha llamado a disminuir el ritmo de desarrollo de los modelos más potentes ante peligros que van desde los ciberataques y el bioterrorismo hasta una posible pérdida de control sobre sistemas cada vez más autónomos. Sam Altman, de OpenAI, y Elon Musk han coincidido, con distintos matices, en la necesidad de introducir mayores medidas de seguridad.

La noticia parecería tranquilizadora: los responsables de estas tecnologías finalmente reconocen que existen riesgos y que algo debe hacerse. Sin embargo, aparece inmediatamente una contradicción. Ninguno de ellos propone detener el desarrollo de la inteligencia artificial. Hablan de desacelerar, regular, supervisar, auditar y mejorar los mecanismos de seguridad, pero la carrera continúa.

Es precisamente esta contradicción la que atraviesa los artículos publicados por Público: La doble cara de la industria de la IA: vende el apocalipsis mientras hace negocio con su omnipotencia y, de manera todavía más radical, el texto de Álvaro San Román, IA: nada ha cambiado, todo debe cambiar.

El primero introduce una cuestión necesaria: ¿qué ocurre cuando las mismas empresas que desarrollan y comercializan sistemas cada vez más poderosos comienzan a presentarlos como una amenaza extraordinaria?

Hay aquí una paradoja. Cuanto mayor parece el poder atribuido a la inteligencia artificial,
mayor parece también el poder de las compañías que dicen poseer el conocimiento necesario para crearla y controlarla. El discurso sobre el riesgo puede ser perfectamente sincero, pero también contribuye a fortalecer la imagen de una tecnología casi omnipotente y de unas pocasempresas como únicas capaces de gobernarla.

El problema tiene además dos tiempos diferentes que conviene no confundir. Existen daños que ya pueden observarse: concentración de poder económico y tecnológico, precarización de determinadas formas de trabajo, vigilancia, desinformación, fraudes, sesgos algorítmicos, dependencia tecnológica y un considerable consumo de energía y recursos naturales.

Y existe, al mismo tiempo, otro horizonte: el de los riesgos futuros asociados con sistemas mucho más poderosos, autónomos y difíciles de controlar.

No deberíamos permitir que la espectacularidad de una posible catástrofe futura nos haga olvidar las formas concretas de poder, desigualdad y deterioro ambiental que la inteligencia artificial ya está produciendo.

Pero tampoco sería prudente cometer el error contrario y desestimar los riesgos futuros simplemente porque todavía no sabemos si llegarán a materializarse.

Aquí comienza el verdadero problema moral.

Nada ha cambiado.

Álvaro San Román lleva esta discusión un paso más lejos. Su afirmación resulta incómoda precisamente porque señala el núcleo del problema: aparentemente algo ha cambiado en el discurso de los dirigentes tecnológicos, pero en realidad nada esencial ha cambiado.

Reconocen el peligro, pero continúan desarrollando la tecnología.
No es la primera vez. Ya en 2023 algunas de las figuras más conocidas de la industria
tecnológica solicitaron una pausa temporal en el entrenamiento de sistemas de inteligencia artificial más poderosos. Tres años después volvemos a escuchar advertencias semejantes.

La pregunta inevitable es: ¿qué ocurrió entre aquella advertencia y ésta?
La inteligencia artificial siguió desarrollándose.

Los modelos adquirieron mayores capacidades, las inversiones crecieron, los centros de datos se multiplicaron y la competencia entre empresas y Estados se intensificó.

La idea que permanece intacta es que el desarrollo tecnológico debe continuar.

Puede ralentizarse. Puede ser regulado. Puede rodearse de medidas de seguridad. Pero no parece contemplarse seriamente la posibilidad de detener determinados desarrollos.

San Román cuestiona justamente esa convicción.

Porque detrás de la discusión sobre seguridad existe otra pregunta más profunda: ¿quién decidió que la inteligencia artificial debía desarrollarse hasta transformar prácticamente todas las dimensiones de nuestras sociedades?

No hubo una deliberación pública mundial que decidiera que el trabajo, la educación, la información, la creación artística, la guerra, la medicina o las relaciones humanas debían reorganizarse alrededor de sistemas de inteligencia artificial.

La transformación comenzó primero. La discusión democrática llegó después.

Y ése es quizá uno de los problemas políticos más importantes de nuestro tiempo: unas cuantas corporaciones poseen los recursos económicos, la infraestructura, los datos y el conocimiento técnico suficientes para impulsar tecnologías capaces de modificar profundamente nuestras formas de vida.

Posteriormente, la sociedad recibe esas transformaciones prácticamente como hechos consumados y se le invita a discutir cómo regularlas.

Pero existe una pregunta anterior:

¿Queremos necesariamente todo aquello que técnicamente somos capaces de desarrollar?

¿Alinear con qué?

Frente a los riesgos de la inteligencia artificial aparece constantemente una palabra: alineamiento.

Alinear una IA significa, en términos generales, lograr que sus acciones y decisiones permanezcan compatibles con determinados objetivos, restricciones y valores humanos.

La propuesta parece razonable. Si vamos a construir sistemas cada vez más poderosos, debemos asegurarnos de que actúen de acuerdo con nuestros intereses.

Pero inmediatamente surge un problema filosófico:

¿alinearlos con qué valores y con los valores de quién?

La humanidad no constituye una conciencia moral homogénea. No compartimos completamente la misma concepción de justicia, libertad, dignidad, bienestar o progreso.

Entonces, ¿quién decidirá cuáles serán los valores con los que habrá de alinearse una inteligencia artificial?

¿Las empresas que la desarrollan?

¿Los Estados?

¿Los mercados?

¿Los ingenieros?

¿Las sociedades democráticas?

Por ello, el alineamiento no puede reducirse exclusivamente a un problema técnico. Es también un problema político, jurídico y filosófico.

Antes de preguntarnos cómo conseguir que una máquina persiga nuestros fines, tendríamos que discutir cuáles son esos fines y quién posee legitimidad para establecerlos.

Regular no es limitar

Hay todavía otra distinción fundamental.

Regular no significa necesariamente poner límites. Regular una tecnología supone, generalmente, aceptar que continuará desarrollándose y establecer las condiciones bajo las cuales podrá hacerlo.

El límite introduce una pregunta diferente y mucho más incómoda:
¿existen desarrollos tecnológicos que no deberían llevarse a cabo, aunque podamos realizarlos?

Éste es quizá el punto que nuestra civilización tecnológica encuentra más difícil aceptar.
Nos hemos acostumbrado a considerar que si algo puede hacerse, tarde o temprano se hará. La posibilidad técnica termina convirtiéndose casi automáticamente en autorización moral.

Pero poder hacer algo nunca ha significado que debamos hacerlo.
Una sociedad verdaderamente soberana frente a la técnica tendría que conservar también el derecho a decir:

hasta aquí.

Cuando el riesgo es la propia existencia

Llegamos entonces a la cuestión que atraviesa actualmente todo el debate: la posibilidad de que sistemas de inteligencia artificial extraordinariamente avanzados lleguen a constituir una amenaza para la existencia humana.

Es necesario mantener prudencia. No sabemos que una inteligencia artificial vaya a destruir a la humanidad. Presentarlo como una certeza sería intelectualmente irresponsable.

Pero tampoco sabemos que semejante escenario sea imposible.

Y cuando quienes desarrollan estos sistemas reconocen públicamente riesgos relacionados con pérdida de control, armas biológicas, ciberataques automatizados o consecuencias potencialmente catastróficas, ya no resulta suficiente responder que todo ello pertenece al terreno de la especulación.

La pregunta cambia.

No es solamente:

¿ocurrirá?

La pregunta moral es:

¿qué derecho tenemos a correr ese riesgo?

Y todavía una más importante:

¿quién tiene derecho a decidir que la humanidad debe correrlo?

Aquí aparece con toda claridad la contradicción que San Román señala. Los responsables de la industria reconocen los peligros, pero no quieren dar marcha atrás. Hablan de disminuir la velocidad, mejorar la seguridad, establecer auditorías y alinear los sistemas, pero el desarrollo continúa.

Quizá porque detenerse implicaría aceptar algo que nuestra cultura tecnológica ha olvidado: que el progreso también necesita límites.

El principio de precaución adquiere aquí una importancia fundamental. Cuando existe la posibilidad de daños graves o irreversibles, la ausencia de certeza absoluta no debería utilizarse como justificación para continuar avanzando sin restricciones.

Y esto resulta todavía más importante cuando aquello que podría estar en juego no es simplemente el éxito o fracaso de una innovación tecnológica, sino las condiciones mismas de la existencia humana y de la vida en el planeta.

Tal vez, por ello, el debate sobre inteligencia artificial esté dejando de ser principalmente un debate tecnológico.

Es un debate sobre poder.

Sobre responsabilidad.

Sobre libertad.

Y, finalmente, sobre límites.

¿Puede una civilización considerarse racional si reconoce que una tecnología podría escapar de su control y, aun así, se declara incapaz de detener su desarrollo?

La pregunta resulta todavía más inquietante si pensamos que el verdadero problema quizá no sea que algún día la inteligencia artificial deje de obedecernos.

El problema comienza antes: cuando nosotros mismos dejamos de ser capaces de decirle no al desarrollo tecnológico.

————————————————————————————————————————————

Es estudiosa de la filosofía, bioeticista y educadora, con más de cuatro décadas de trayectoria académica en la docencia, la investigación y la formación de estudiantes. Es fundadora de la Fundación Atenea y del Instituto Atenea de Estudios Superiores e Investigación, instituciones orientadas al desarrollo de la educación, la investigación y el pensamiento humanista. Correo: godinaherreracelida@gmail.com