El riesgo de saber demasiado tarde: el gran dilema de la inteligencia artificial

CHIHUAHUA, Chih .-

Dr. Omar Bazán Flores
Doctor en Economía Circular

La inteligencia artificial avanza a una velocidad extraordinaria. En pocos años pasó de ser una tecnología especializada a convertirse en una herramienta capaz de escribir, programar, analizar enormes cantidades de información, apoyar investigaciones científicas y participar en procesos económicos y productivos cada vez más complejos.

Pero mientras discutimos todo lo que puede hacer, quizá estamos dejando en segundo plano una pregunta todavía más importante: ¿qué pasa si descubrimos los verdaderos riesgos de la inteligencia artificial cuando ya sea demasiado tarde para corregirlos?

El tema vuelve al debate internacional a partir de una reflexión publicada en TIME por Geoffrey Irving, quien fue científico jefe del Instituto de Seguridad de Inteligencia Artificial del Reino Unido.

Su planteamiento es inquietante: algunas de las preguntas fundamentales sobre una futura inteligencia artificial superior a las capacidades humanas podrían no tener respuestas definitivas antes de que tengamos que tomar decisiones sobre su desarrollo.

Debemos poner esta discusión en perspectiva.

No existe actualmente consenso científico que permita asegurar cuándo podría surgir una denominada superinteligencia, cuáles serían exactamente sus capacidades o qué nivel de riesgo representaría para la humanidad. Las estimaciones más extremas continúan siendo materia de discusión entre investigadores.

Pero la incertidumbre tampoco puede ser argumento para ignorar el problema.

Durante buena parte de nuestra historia primero desarrollamos las tecnologías, después conocimos sus consecuencias y finalmente construimos las reglas para administrarlas.

Con la inteligencia artificial posiblemente necesitemos invertir ese orden.

No podemos esperar a que ocurra una crisis tecnológica de grandes dimensiones para comenzar a discutir seguridad, transparencia, responsabilidad y supervisión.

Esto tampoco significa frenar la innovación.

Sería un error presentar el debate como una elección entre avanzar tecnológicamente o regular. Necesitamos hacer las dos cosas.

La inteligencia artificial ofrece oportunidades extraordinarias para la humanidad. Puede contribuir a desarrollar nuevos medicamentos, optimizar procesos industriales, mejorar la productividad, administrar mejor nuestros recursos naturales, reducir desperdicios y acelerar soluciones relacionadas con la economía circular y la sustentabilidad.

Renunciar a esas posibilidades sería tan equivocado como avanzar sin mecanismos de protección.

Por eso necesitamos sistemas independientes de evaluación, auditorías tecnológicas, estándares internacionales de seguridad y responsabilidades claramente establecidas para quienes desarrollan y operan modelos avanzados.

También será indispensable la cooperación internacional.

La inteligencia artificial no reconoce fronteras. Un sistema desarrollado en un país puede utilizarse prácticamente de inmediato en cualquier otra parte del mundo.

Estados Unidos, China, Europa, América Latina y las demás regiones pueden competir por liderazgo tecnológico, pero existen asuntos de seguridad en los que necesariamente tendrán que encontrar puntos mínimos de entendimiento.

Sin embargo, existe otro desafío del que hablamos mucho menos.

No solamente debemos preparar mejores máquinas. Necesitamos preparar mejores sociedades.

La verdadera defensa frente a los riesgos tecnológicos comienza con ciudadanos capaces de comprender la inteligencia artificial, cuestionar sus resultados y conservar la capacidad humana de decidir.

Una sociedad que utiliza tecnología sin comprenderla corre el riesgo de convertirse en dependiente de ella.

Por eso debemos defender un principio elemental: la inteligencia artificial debe ampliar las capacidades humanas, nunca sustituir nuestro razonamiento.

Podemos utilizar algoritmos para analizar millones de datos en segundos, pero corresponde a las personas determinar qué hacemos con ese conocimiento.

Podemos construir máquinas extraordinariamente poderosas, pero debemos conservar la responsabilidad sobre sus decisiones y consecuencias.

El gran desafío de nuestra generación no será detener el conocimiento.

Será aprender a gobernarlo.

Necesitamos innovación, pero también prudencia. Desarrollo tecnológico, pero acompañado de responsabilidad. Inteligencia artificial, pero siempre con inteligencia humana.

La pregunta verdaderamente importante quizá no sea qué tan inteligentes llegarán a ser las máquinas.

La pregunta es si nosotros tendremos la capacidad, la responsabilidad y la visión necesarias para establecer las reglas antes de descubrir, demasiado tarde, que debimos hacerlo.

Dr. Omar Bazán Flores
Doctor en Economía Circular