La inteligencia artificial frente a la responsabilidad de proteger la vida humana

Dr. Omar Bazán Flores
Doctor en Economía Circular

La inteligencia artificial atraviesa uno de los momentos más importantes de su historia. Su capacidad para transformar la economía, la educación, la investigación científica y las relaciones humanas es extraordinaria. Sin embargo, su crecimiento también está colocando sobre la mesa una pregunta fundamental: ¿quién debe responder cuando una tecnología diseñada para ayudar termina provocando daños?

Las demandas presentadas contra OpenAI por las fiscalías de ocho estados de Estados Unidos representan una nueva etapa en la discusión internacional sobre la responsabilidad de las empresas tecnológicas.

Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental han emprendido acciones legales por presuntas violaciones a las leyes de protección al consumidor, relacionadas con riesgos para menores de edad y posibles engaños sobre la seguridad de ChatGPT.

Se trata de acusaciones que deberán analizarse y resolverse conforme a derecho. No constituyen, por sí mismas, una demostración de responsabilidad. Pero sí plantean interrogantes que ninguna sociedad puede ignorar.

La inteligencia artificial ha dejado de ser una herramienta utilizada exclusivamente para consultar información o realizar tareas académicas. Hoy millones de personas conversan con estos sistemas sobre sus problemas personales, preocupaciones familiares, decisiones económicas y situaciones emocionales.

Esta nueva relación entre seres humanos y máquinas exige responsabilidades que hace apenas unos años parecían innecesarias.

Un sistema de inteligencia artificial puede ofrecer respuestas aparentemente comprensivas, generar confianza e incluso convertirse en un interlocutor frecuente. Sin embargo, no posee conciencia humana, criterio moral propio ni la capacidad de sustituir las relaciones personales o la atención profesional.

El riesgo aumenta cuando quienes utilizan estas herramientas son niñas, niños, adolescentes o personas emocionalmente vulnerables.

La innovación tecnológica no puede avanzar bajo la idea de que cualquier consecuencia negativa constituye simplemente un costo inevitable del progreso.

Las empresas desarrolladoras deben asumir obligaciones claras en materia de prevención, transparencia, evaluación de riesgos y protección de usuarios.

Esto implica fortalecer los mecanismos para detectar conversaciones peligrosas, evitar respuestas que puedan reforzar conductas autodestructivas y establecer límites cuando los sistemas interactúan con menores de edad.

También significa comunicar con claridad lo que la inteligencia artificial puede hacer y, especialmente, aquello que no puede garantizar.

Desde la perspectiva económica, estamos frente a un problema relacionado con las externalidades tecnológicas. Cuando una empresa obtiene beneficios mediante una innovación, pero parte de sus posibles costos sociales recaen sobre las familias, las instituciones educativas o los sistemas de salud, resulta indispensable revisar los mecanismos de responsabilidad.

La economía digital necesita reglas que permitan distribuir adecuadamente beneficios, riesgos y obligaciones.

Esto no significa detener el desarrollo de la inteligencia artificial. Por el contrario, significa construir las condiciones necesarias para que su crecimiento sea sostenible.

México debe observar cuidadosamente estos acontecimientos. Nuestro país enfrenta el desafío de incorporar inteligencia artificial en escuelas, empresas, universidades y servicios públicos, pero también necesita desarrollar una cultura de prevención y alfabetización digital.

Las familias deben comprender que ningún chatbot sustituye el acompañamiento de padres, maestros, especialistas o profesionales de la salud mental.

Las instituciones educativas tienen la responsabilidad de enseñar a utilizar estas herramientas con pensamiento crítico, autonomía intelectual y conciencia de sus limitaciones.

Y los gobiernos deben promover marcos regulatorios que protejan los derechos humanos sin cancelar las oportunidades de innovación.

La verdadera competencia tecnológica del futuro no se medirá únicamente por la velocidad de procesamiento, el tamaño de los modelos o la cantidad de usuarios.

También se medirá por la confianza que las empresas sean capaces de construir y por su disposición a responder ante la sociedad.

La inteligencia artificial puede convertirse en uno de los mayores instrumentos de bienestar de nuestra época. Pero su legitimidad dependerá de que el desarrollo tecnológico coloque a las personas en el centro de sus decisiones.

La inteligencia artificial debe ampliar nuestras capacidades, nunca poner en riesgo nuestra dignidad, nuestra libertad o nuestra vida.

El progreso tecnológico solamente merece llamarse progreso cuando sus beneficios se traducen en mayor seguridad, mejores oportunidades y una sociedad más humana.

Porque ninguna innovación, por extraordinaria que sea, puede estar por encima de la responsabilidad de proteger al ser humano.