No debe extrañar la fascinación, sorpresa y emoción con que los deslumbrantes avances tecnológicos ponen a prueba la capacidad de adaptación humana a un mundo que pareciera estar en constante reconfiguración. Estos acelerados cambios también pueden generar incertidumbre, asombro e incluso miedo, al desconocer los límites, consecuencias e impactos de las aplicaciones que pueden tener las tecnologías con sistemas cada vez más inteligentes.
La Inteligencia Artificial (IA) está cada vez más cerca a la vida cotidiana: en nuestros teléfonos personales, en nuestros hogares, en nuestros automóviles, en nuestras computadoras, en nuestro trabajo, en nuestra oficina. Algunos más y otros menos, pero en general la población conoce el término IA y sabe, hasta cierto punto, a qué se refiere. Claro, es un conocimiento similar al que tenemos sobre el funcionamiento del teléfono, el automóvil o la computadora: sabemos utilizar estos aparatos y eso nos da una sensación de tranquilidad porque conocemos lo que tenemos que conocer sobre su funcionamiento. Sin embargo, si las cosas se ponen feas, vamos con un técnico o con un experto, lo cual demuestra que no es tan profundo el conocimiento que tenemos de nuestros propios aparatos.
El tema de la IA es un poco diferente en cuanto a su alcance, a su impacto y sus consecuencias, y de eso se trata esta reflexión. Por un lado, las empresas desarrolladoras dedican sus recursos a mejorar la experiencia del usuario y profundizar la conexión con la tecnología, enfatizando el poder transformador de las innovaciones, generando ambientes especialmente diseñados para vivir un mundo experiencial único, personal y personalizado, pero que te conecte a otras experiencias, a otras formas de sentir y de pensar o a otras personas, en la medida en que tú quieras. Y esto último es importante, porque cuanto más inteligente es una tecnología, tiende a aumentar la sensación de control: confiamos en que elegimos hasta dónde ir y cómo hacerlo.
Pero, por otro lado, cuando reflexionamos críticamente sobre el poder cada vez mayor de los sistemas inteligentes, en las grandes bolsas de datos de las cuales estos se alimentan, en los parámetros y algoritmos cada vez más poderosos que utilizan para su automatización, sobrevienen ciertas preguntas como: ¿hasta dónde llegarán dichos sistemas?, ¿qué cosas recaen en las personas si dependemos cada vez más de las tareas que realizan los sistemas inteligentes?, ¿se trata de una ayuda o del reemplazo de ciertas atribuciones humanas que no deberíamos ceder? (¿O sí?), ¿hay alguna regulación jurídica o ética que nos ilumine sobre las responsabilidades en la creación, desarrollo y puesta en práctica de tales sistemas?
Al tratarse de sistemas masivos, globales, que funcionan con grandes bolsas de datos, utilizando Internet y que están al alcance de quien los pueda adquirir, ¿no deberíamos pensar en una regulación planetaria, global y masiva que ordene la utilización de datos personales, la seguridad, la transparencia, la equidad y la justicia para todos? Al mismo tiempo, ¿no sería necesario consolidar un marco ético y normativo que asegure que los desarrollos tecnológicos e inteligentes sean para el bienestar de toda la civilización, que sirvan para mejorar el sistema social y que contribuyan a la disminución de los problemas mundiales de siempre como la violencia, la discriminación, la injusticia, la desigualdad, la pobreza, la contaminación y la destrucción de los sistemas de vida natural (terrestre, marítima, humana)?
Humanos sintéticos
Los informes de tendencias tecnológicas para el futuro1 plantean que estamos presenciando el ingreso cada vez mayor al mercado tecnológico de avances notorios en materia de inteligencia artificial, humanos sintéticos y agentes de IA y de computación cuántica, mismos que nos proveerán de un mundo con automatización extendida en todos nuestros procesos, así como de una omnipresente interconexión.
Estos son sistemas que están programados para copiar patrones y desarrollar una comunicación personalizada y empática con las personas, propiciando interacciones cada vez más realistas a partir de apariencias, comportamientos y emociones, también cada vez más realistas, pero que superan al ser humano (mayor capacidad de visión, memoria, audición), lo cual los convierte en humanos singulares o posthumanos.
Su función es crear conexiones emocionales con los humanos, aumentar la satisfacción del usuario y elevar el engagement digital: cuanto más humana es la inteligencia artificial, mejor podrá interactuar con las personas y será más aceptada por el entorno social.
“Los humanos sintéticos serán tus amigos digitales en el ecosistema digital. Un amigo con el que querrás hablar una y otra vez, que te entiende, que no te juzga, con el que no te aburres y en el que puedes confiar. Estos humanos sintéticos (que representan a las empresas) serán tus amigos digitales en todo tipo de experiencias con todas las empresas con las que trates”, según plantea Ritesh Menon, vicepresidente de Technology, de Globant1.
El desarrollo de este tipo de tecnologías está modificando la forma de comunicación entre los humanos y las máquinas, pues al dotar de características humanas a los sistemas se genera una mayor confianza en el usuario y aporta contenido, calidez y cercanía al proceso comunicacional.
Además, la industria tecnológica está trabajando a ritmos acelerados en el avance de sistemas con inteligencia no solo artificial, sino emocional para lograr mayor confianza y empatía en la relación con los seres humanos. Una IA que no se limita a procesar datos superficiales obtenidos de un ser humano, sino que además posee capacidades para conocerlo a profundidad, interpretarlo como si fuera su mejor amigo e incluso anticipar sus deseos y necesidades, puesto que sabe leer sus emociones, preocupaciones y el contexto alrededor de él.
Agentes de IA
Estos son programas muy avanzados de software que utilizan la IA para el logro de objetivos. Por ejemplo, completan tareas, interactúan con el entorno, recopilan datos, y pueden tomar ciertas decisiones de manera automática para el logro de metas previamente definidas. Son sistemas altamente inteligentes y con gran autonomía, capaces de emular características y capacidades humanas como razonar, planificar, aprender, adaptarse, tomar decisiones, etcétera. Los agentes de IA trabajan por objetivos y tienen gran capacidad de adaptación y aprendizaje, por lo cual se van perfeccionando con su propio funcionamiento e interacción con el medio.
Un agente de IA es una entidad capaz de percibir su entorno y, sobre todo, capaz de aprender utilizando grandes cantidades de información. Le toma unos minutos adquirir el conocimiento que a un ser humano podría costarle años aprender. Luego, con base en su aprendizaje previo, es capaz de tomar decisiones, y es aquí donde la dimensión ética de la computación cuántica aplicada a los agentes de IA cobra una importancia trascendental.
Según las predicciones, los agentes de IA cada vez son más potentes. Esto significa que cada vez poseen mayor capacidad de aprendizaje y manejo de información, así como una creciente autonomía en la toma de decisiones y una decreciente supervisión humana. La IA en general tiene cada vez más agencia; es decir, incrementa su capacidad para actuar de forma independiente y así controlar ciertos procesos y acciones.
Comunicación cuántica
El preliminar –pero acelerado– avance en la computación cuántica nos sitúa en una revolución de la física cuántica en relación a la física clásica newtoniana2,3. Esta revolución se caracteriza por el uso de otro tipo de energía –la nuclear– y por el cambio completo del hardware que hasta el momento se utilizaba en las computadoras más modernas. Se trata de un cambio revolucionario en materia energética y en materia física.
La computación cuántica utiliza qubits en vez de bits, que mantienen dos estados simultáneamente: en lugar de unos y ceros, rompen con la lógica tradicional binaria de verdaderos y falsos para potenciar cálculos y soluciones a problemas de gran magnitud, pues cada bit cuántico (qubit) puede manejar múltiples variables al mismo tiempo, superando por mucho la capacidad de las computadoras tradicionales. La superposición de estados, el entrelazamiento (los qubits pueden trabajar conectados al estado de otro) y la interferencia son algunas de las características de la computación cuántica.
La comunicación cuántica, entonces, se vislumbra como un campo emergente del conocimiento, pero que está siendo desarrollado con base en la computación cuántica, es decir, con base en la física y la mecánica cuántica para transmitir la información, cuya finalidad es tener sistemas más seguros y eficientes para las comunicaciones. Es un tipo de comunicación que funciona con qubits y que a través del entrelazamiento cuántico permite que dos o más partículas cuánticas estén correlacionadas en sus estados, incluso aunque estén separadas por grandes distancias. Si una partícula cuántica cambia su estado, la otra instantáneamente también lo hará, independientemente de la distancia que medie entre ambas. A pesar de que es un campo emergente del conocimiento, promete ser clave para sistemas de seguridad en transmisión de datos, criptografía y redes sociales cuánticas.
Ética cuántica
Es necesario considerar críticamente estos grandes avances, no con el ánimo de negarlos, pues ya los tenemos en nuestras vidas, tampoco para condenarlos, pues aportan, sin duda, ciertas comodidades y beneficios en el mundo de la medicina, de la nanotecnología y de los negocios, por nombrar solo algunos ejemplos, pero tampoco con el ánimo de creer cada cosa que nos dicen las grandes empresas desarrolladoras de tecnologías y sistemas de IA, sino más bien para considerar el costo-beneficio y, sobre todo, el impacto complejo que puede haber en diferentes áreas, sistemas y lugares del planeta.
El problema radica en que cuando uno se adentra en el campo, no solo se empiezan a considerar las posibles consecuencias en múltiples sectores de la economía y de la vida de las personas, sino que además se vislumbra el impacto que esta nueva forma de vida humana con omnipresencia inteligente y a base de quantums tendrá en la economía, en los sistemas laborales e industriales del planeta, en la pérdida o redistribución de puestos de trabajo, en la desaparición de oficios y carreras que hoy en día se siguen estudiando en las universidades, e incluso en el desarrollo físico, cognitivo y emocional de las personas.
Estamos ante un cambio de paradigma, una revolución industrial y cognitiva que pondrá a prueba la subsistencia del ser humano y del planeta como hoy lo concebimos. En esta parte del camino es donde se vuelve menester la necesidad de una ética contundente para la acción humana. Es necesario tener un sistema normativo regulador que garantice la convivencia pacífica, la justicia, la libertad, la equidad y la dignidad, es decir, una regulación que establezca derechos y obligaciones con base en valores para el bienestar de todos los seres vivos y de todos los ecosistemas que conviven en nuestro planeta.
Para la vida social en el mundo offline tenemos la ética. Para considerar las interacciones en el mundo online se ha estado construyendo una ética digital, ámbito en el cual es necesario seguir avanzando hacia una normativa global que regule lo que sucede en Internet. Pero se entrecruzan estos nuevos avances que están formando nuevos campos del conocimiento en computación cuántica, en un Internet cuántico, por lo cual, es necesario también dirigir la mirada a una “ética cuántica” que aporte lineamientos para el uso y procesamiento de la información que circula en estos sistemas ultraavanzados.
La ética cuántica debe considerar los principios regulatorios y fundamentales del acceso, utilización, comprensión e impacto complejo de las tecnologías cuánticas que ahora son incipientes pero que están en franco y acelerado desarrollo. Por ejemplo, en cuanto al impacto de la extracción de minerales raros como litio, cobalto, neodimio y disprosio, entre otros4; o como se ha dicho, el impacto de las IA potenciadas desde la computación cuántica.
El manejo de información y las comunicaciones que ocurran a partir de las tecnologías cuánticas en el Internet cuántico necesitará de principios éticos que consideren al ser humano como centro y finalidad de toda acción, poniendo en práctica los mínimos reguladores que garanticen el bienestar, la seguridad y la pacífica convivencia en el planeta.
El principio de justicia que, guiado por una ética kantiana universalista, vea para qué las tecnologías inteligentes sean beneficiosas para la humanidad y que en todo momento se evite el daño a las personas o a los ecosistemas planetarios. Las IA –digitales o cuánticas– deben contribuir a la paz, a la equidad y a la armonía, respetando en todo momento la dignidad humana, por lo cual, debe evitarse su utilización en la carrera armamentista y en desarrollos bélicos.
El principio de autonomía nos otorga a los seres humanos el poder de decisión sobre cualquier sistema de IA digital o cuántico y plantea que todo proceso algorítmico realizado por humanos o por sistemas inteligentes debe poder ser reversible. Este principio propone límites claros a los sistemas que se están haciendo cada vez más autónomos, incluso poniendo en riesgo la libertad humana en la toma de decisiones.
El principio de supervisión humana nos recuerda que debe haber auditoría y supervisión sobre todo sistema inteligente, pues son creación y responsabilidad humana, por lo cual debe haber control humano, así como toma de decisiones sobre cualquier sistema de IA.
El principio de explicabilidad y transparencia indica que el ser humano debe saber explicar los procesos de los sistemas de IA a través de métodos transparentes y de rendición de cuentas, precisamente para mantener el control humano y la toma de decisiones.
Estas propuestas derivan de investigadores y expertos en el área de la ética de las tecnologías inteligentes y cuánticas2,3,5, quienes han mostrado su preocupación por la necesidad de enmarcar los avances tecnológicos en escenarios éticos que aporten garantías, derechos y obligaciones para los implicados que, como se ha visto, somos todos los seres humanos.
Conclusión
Al parecer, no solo irán desarrollándose cada vez más las áreas de conocimiento implicadas con las tecnologías con informática, ingeniería computacional, nanotecnología, nanobiología, mecánica cuántica, física cuántica, comunicación cuántica y muchas más, también los usuarios de estos sistemas inteligentes, como empresas, gobiernos y ciudadanía en general, parecen aceptar, de buena manera y sin pensarlo demasiado, el ingreso masivo de estas en la vida cotidiana. Desde los sectores comerciales, así como desde las grandes empresas desarrolladoras de IA, no se habla de ética en la creación, desarrollo y comercialización de estos productos. La finalidad expresada es que los usuarios de las tecnologías tengamos una interacción sin fricciones ni conflictos y, además, tengamos experiencias inmersivas donde la satisfacción, la armonía, la confianza, la empatía y la estrecha conexión emocional sean protagonistas en la interacción.
La inmersibilidad de las tecnologías avanzadas e inteligentes es la que hace que las personas, convertidas en usuarios fascinados, no puedan objetivarlas y ponerlas bajo crítica y análisis, aspecto por el cual es difícil lograr que la ciudadanía considere el lado sustentable, de responsabilidad social y ética que conllevan estos avances de la humanidad. Aplicar estos principios éticos en las acciones humanas no es tarea fácil, pero es menester en la medida en que se consideran los impactos profundos, globales y a gran escala de los avances en tecnologías inteligentes, así como en el desarrollo de las tecnologías cuánticas. Quedará en manos de los países, de las grandes organizaciones internacionales y en los ciudadanos informarse críticamente y analizar las implicancias de tales avances en relación con el costo-beneficio que se pueda obtener.
Referencias
1 Globant. (2025). 5 Tendencias que marcarán el 2025 y los años siguientes. Tech Trends. https://reports.globant.com/es/trends/tendencias-tecnologicas-2025
2 Gustafson, E. (2025). The next media epoch: AI, quantum computation and the future form(s) of media. Explorations in Media Ecology, (24)1, 75-82. https://doi.org/10.1386/eme_00241_7
3 Buchholz, S. & Ammanath, B. (2022). Quantum computing may create ethical risks for businesses. It’s time to prepare. Deloitte Insights. https://www.deloitte.com/us/en/insights/topics/risk-management/quantum-computing-ethics-risks.html
4 Harrison, R. (2023). Critical raw materials and quantum technology. Sonnenberg Harrison. https://blog.shp.law/index.php/2023/05/10/critical-raw-materials-and-quantum-technology/
5 Possati, L. (2023). Ethics of Quantum Computing: an Outline. Philosophy & Technology. https://doi.org/10.1007/s13347-023-00651-6
