Límites en el desarrollo de la IA
Octaviano Couttolenc

Cambio y fuera

94 opiniones • veces leído

Aunque el control de información y censura de la misma no son nuevos, el advenimiento del mundo digital impone nuevos retos a la humanidad.

blank

Lectura: ( Palabras)

Hoy en día en el mundo empresarial y en las Fintechs, se habla constantemente sobre la IA y su influencia positiva sobre los distintos modelos de negocio y como aquellas empresas capaces de ejercer dominio sobre el uso de algoritmos que eficienticen sus procesos, serán las consentidas del capital. Hoy mucha gente habla sobre los efectos transformadores positivos y permanentes de la IA en nuestra sociedad, pero también en justo balance, es necesario escuchar a aquellas voces que alertan sobre los riesgos y peligros que esta traerá consigo, y de ahí que consideran deban existir controles sobre el desarrollo de esta.  

Recién finalicé la lectura de un libro intitulado “The Age of AI: our Human Future” co-escrito por el gran Henry A. Kissinger, Eric Schmidt y Daniel Huttenlocher donde buscan ofrecer su punto de vista sobre el impacto que tiene y tendrá la IA sobre nuestras vidas, sobre nuestro rol como seres humanos, sobre nuestras actividades productivas, sobre la seguridad y el dominio mundial, entre muchas otras. Los autores postulan que la IA no es una industria, ni un producto, sino es un “facilitador” que tocará prácticamente todas las facetas de nuestras vidas incluyendo la investigación, la educación, la manufactura, la logística, el transporte, la defensa, la política, y el arte, es decir toda nuestra vida, y lo hará de una manera que alterará nuestra identidad y nuestra realidad, de una manera nunca vista.

El mundo se sorprendió cuando un programa de IA llamado “Alpha Zero” venció a los mejores jugadores de ajedrez, gracias a su capacidad de identificar patrones de movimientos y posibilidades no alcanzables a la mente humana. Nuevos lanzamientos como el “Chat GPT” le han dado un nuevo significado a la IA, al introducir el concepto de “IAG” o inteligencia artificial generativa, es decir IA que entre otras cosas es capaz de generar contenido original ya sean textos o imágenes. No sabemos dónde terminará todo esto; ya se habla de “ACI” –“Artificial Capable inteligence” o inteligencia artificial con capacidades de ejecución, donde se estima que la IA será capaz de desempeñar tareas complejas por ejemplo aquellas relacionadas con la ejecución de un plan de negocios tales como analizar mercados, planear negocios, contratar procesos de manufactura, logística y realizar ventas, interactuando con humanos y con máquinas, es decir tareas propias de la “e-economy”, con nula intervención humana.  

Los autores explican que la IA llegó para quedarse y hoy se ha vuelto patente en cantidad de actividades que realizamos y servicios que utilizamos y donde muchas veces no somos ni conscientes de su presencia. Existe hoy una relación de colaboración entre los humanos y las máquinas, donde las utilizamos como herramientas para facilitar nuestras actividades. No hay duda de que la IA enriquecerá y expandirá nuestro conocimiento; la IA eleva el concepto de inteligencia; los algoritmos son capaces de examinar información, en forma rápida, sistemática y con una lógica distinta que la humana, que nos develará información sobe nuestro mundo y entorno que no conocíamos.

En contrapunto a todos los impactos positivos, es razonable también escuchar el punto de vista de aquellos que consideran que la IA impone grandes retos ante el inminente desplazamiento del ser humano en la realización de muchas actividades y en la pérdida gradual del control del ser humano como la única inteligencia creadora, estatus que guardó desde el principio de los tiempos.

En el libro mencionado y en otros textos, estos y otros autores evidencian gran preocupación sobre varios temas relacionados con el desarrollo de la IA, y aunque no sería posible ahondar sobre todos ellos, trataré de dar algunas pinceladas sobre los más relevantes.

Límites en el desarrollo de la IA

Nacionalismos y conceptos de Soberanía. – Hoy en día existen plataformas o redes globales con gran poder e influencia geopolítica. Sin duda éstas fueron creadas dentro de un marco filosófico y hasta cierto punto bajo creencias y valores que responden a los intereses de sus creadores.  Hace algunos años vimos la dificultad para que Tik Tok operara en EE. UU. ante limitaciones impuestas por el gobierno, preocupado ante el riesgo de que la información sensible de los norteamericanos residiera en servidores chinos. Esto es solo una muestra de las discusiones geopolíticas que se darán alrededor de estos temas y donde intereses comerciales, económicos y políticos, tendrán mucha influencia. La carrera por dominar la IA ya comenzó y al menos China y los EE. UU. no quieren quedarse atrás. Puede afirmarse que este control no residirá necesariamente en los estados-gobierno, sino muchas veces residirá en pequeños grupos de empresas, desarrolladores o universidades.  

Difusión de información y censura. – Aunque el control de información y censura de la misma, no son nuevos, el advenimiento del mundo digital, algoritmos, bots, la posverdad, etc. le imponen nuevos retos a la humanidad. La capacidad de los algoritmos para generar información y difundirla, su capacidad para detectar patrones, imágenes, o filtrar información, se han visto multiplicadas, lo que abre un debate muy amplio sobre la capacidad de la IA de influir sobre la sociedad, en temas de índole política, económica y social, y la necesidad de regularla y ponerle límites.

Autonomía de los sistemas de IA. – En la medida que avance la IA, los algoritmos tendrán capacidad no sólo de llegar a conclusiones y predicciones, sino podrán tomar decisiones, y cursos de acción en forma autónoma. A la IA no se le puede dejar sola sin supervisión, ya que puede llegar a conclusiones o al logro de objetivos de una manera que sea inaceptable desde un punto de vista ético o moral; la IA no posee consciencia ni entiende sobre su rol en el mundo y puede causar daños. Debe existir un proceso continuo de supervisión humana para detectar cuando comete errores y no debe permitírsele operar salvo que haya demostrado ser confiable después de múltiples pruebas y bajo un concepto de no causar daño (esto es crítico por ejemplo en vehículos autónomos, entre otros casos).

Ciberseguridad y armas de destrucción masiva. – En la medida que nuestras sociedades se vuelven más digitales, nuestros sistemas de computación y comunicación que son controlados por sistemas son altamente vulnerables a ataques o manipulación cibernética. No es descartable que el ser humano quiera delegar a la IA, dada su rápida capacidad de respuesta y análisis de escenarios, la operación de sistemas de defensa o respuesta ante un ataque de un tercero, con las graves consecuencias, al no haber intervención humana. El mundo desde la guerra fría ha vivido en tensión, pero siempre el ser humano mediante comunicación y sentido común ha evitado desastres mayores; la delegación a la IA no puede darse sin un proceso de verificación amplio y siempre con la participación humana de última instancia.

Identidad del ser humano/pérdida de valor del ser humano. – Hasta hoy en día, al ser humano se le valoraba en buena medida por su capacidad intelectual, creadora y su propósito. Hemos vivido siendo la única inteligencia superior en el planeta, y guiados por la fe y la razón hemos entendido el mundo que nos rodea. El hombre ha estado acostumbrado a ser el centro de atención, y a monopolizar las decisiones inteligentes, y esto cambiará con la IA. Muchas habilidades y conocimientos que tardamos años en aprender ahora podrán ser ejecutados por IA en forma inmediata. La IA transformará la naturaleza del trabajo ya que pondrá en riesgo el sentido personal de identidad, seguridad financiera y sentido de propósito de muchas personas.

Como hemos podido constatar, La humanidad está ante el gran reto de aprovechar en su máxima posibilidad los beneficios de la IA, que a primera vista parecen muy amplios, ya que el ser humano podrá echar mano de herramientas tecnológicas que le permitirán acelerar el conocimiento a una velocidad insospechada y esto debiera ayudar a un mayor progreso, y la posibilidad de distribuir la riqueza de una manera que permita aliviar muchas carencias.

Todos los conocedores del tema, sin embargo, lanzan mensajes de alerta sobre la necesidad de lograr acuerdos, o protocolos sobre el uso de la IA, y sobre los límites de esta para evitar efectos negativos. Se tiene el riesgo que al ser algo que se está desarrollando en arquitecturas abiertas y con muchos participantes, que en ocasiones no son gobiernos sino entes privados, que compiten entre sí, hagan que la cooperación y comunicación sean más difíciles de lograr.  

Se habla de la necesidad de crear instituciones supranacionales, que supervisen y regulen los desarrollos, para evitar malos usos. La inteligencia humana es capaz de cuidar la intencionalidad de sus actos, pero en la medida que deleguemos actividades y decisiones a la inteligencia artificial, no debe olvidársenos que esta no posee la capacidad de autorregularse ni de tener consciencia.

Más columnas del autor:
Todas las columnas Columnas de
5 1 voto
Calificación del artículo
Subscribir
Notificar a
guest
1 Comentario
Más viejo
Nuevo Más Votado
Comentarios en línea
Ver todos los comentarios
Telesforo

Nos parece novedoso la idea de la IA, cuando actualmente en nuestra vida diaria estamos acostumbrados a interactuar con los sistemas informaticos e inclusive los preferimos sobre la interaccion humana. La IA lleva muchos años entre nosotros.

Lo que opinan nuestros lectores a la fecha