ALGORITMOS E INTELIGENCIA ARTIFICIAL

JUAN ANTONIO GARDE

Presidente de la asociación ALGOVERIT

La Inteligencia Artificial (IA) ya ha entrado en nuestras vidas, por lo que es necesario que la sociedad en su conjunto, y especialmente la sociedad civil, tenga la información necesaria sobre su significado, sus implicaciones con sus ventajas e inconvenientes, para adoptar una posición activa ante ella.

La IA no afecta a un solo aspecto de nuestra vida, sino que tiene muchos focos, porque tiene o puede tener repercusiones en muchos campos tales como en la educación de las nuevas generaciones, en la salud, la economía, la política, etc.

Supone un nuevo conocimiento que puede significar un cambio de paradigma civilizatorio. Es necesario disponer de una cierta capacidad de análisis sobre su significado y sobre sus implicaciones, para poder contribuir a que sus usos sean favorables a los seres humanos.

1.     ¿Qué es la IA?

La base de la IA son los “algoritmos” que son las reglas que permiten hacer las operaciones necesarias para llegar hasta el objetivo que se pretende. Son como las recetas de cocina, que permiten llegar a preparar un plato.

Los algoritmos nacieron en el siglo XIX. Ada Lovelace (matemática y esposa de Bayron) fue una pionera en la elaboración de algoritmos para máquinas de calcular con operaciones matemáticas. Entonces se programaba de forma mecánica un proceso concatenado de operaciones para alcanzar unos resultados. Los actuales ordenadores utilizan programas compuestos por algoritmos secuenciados de una manera determinada.

La IA se basa en un nuevo tipo de algoritmos llamados “algoritmos de aprendizaje”, porque no tienen el proceso programado, sino que él mismo programa la secuencia de actividades en función de lo que necesita para alcanzar el fin que se le ha propuesto. No se conoce cómo actúa y no se sabe de dónde toma los datos que necesita, por lo que puede incorporar sesgos y desde luego no se sabe de qué manera éstos pueden influir sobre los resultados que obtiene. En este tipo de algoritmos no se puede hablar de trasparencia.

2.     ¿Qué implicaciones tiene la IA?

Las implicaciones son muy variadas: en el marco jurídico, para poder exigir responsabilidades humanas individuales o colectivas en aspectos tan sensibles como la privacidad; en el sistema educativo, porque introduce nuevas tecnologías, como la formación virtual por ejemplo, que conviene saber manejar y conocer con todas sus implicaciones; en el sistema sanitario por sus aplicaciones sobre la genética humana; en la economía y el mercado laboral, para favorecer la reducción de costes, la innovación y la investigación empresarial, etc.

3.     ¿Existe una regulación de las aplicaciones de la IA?

La Unión Europea ha estado estudiando una regulación que se ha aprobado recientemente en el Parlamento Europeo. Ahora está en fase de negociación con la Comisión Europea y después pasará al Consejo Europeo.

Se basa en establecer tres niveles de riesgos:

·      1º nivel: Demasiado riesgo. Estará prohibido el uso de la IA para temas que afecten a los Derechos Humanos

·      2º nivel: Mucho riesgo. Se establecen señales o marcos de referencia de los resultados para saber que han sido obtenidos con IA

·      3º nivel: Bajo riesgo. Todos los demás.

No existe una regulación a nivel mundial. EEUU y China tienen otros marcos regulatorios. El de EEUU se basa en la iniciativa empresarial, es decir, se va a realizar siempre “a posteriori” y de acuerdo con las 7 mayores plataformas que trabajan con la IA. En la última reunión del G7 se acordó realizar un marco regulatorio compartido con los EEUU. China tiene un gran desarrollo tecnológico muy pragmático, con ciertas regulaciones propias.

El espacio de la ciberseguridad y del poder tecnológico tienen en la IA un punto fundamental de disputa entre los bloques estratégicos internacionales. Kissinger planteó en su tiempo esta cuestión en el campo militar. Actualmente la IA es un arma muchísimo más poderosa que la bomba atómica.

Aportaciones en el debate

Bienvenido Pascual, Secretario de la asociación ALGOVERIT, se incorpora al debate por ausencia del ponente. Apunta que sobre este tema la gente se agrupa en torno a tres posiciones fundamentales: los escépticos, los temerosos o pesimistas y los fanáticos u optimistas.

Varios de los presentes se manifiestan pesimistas o escépticos porque no se sabe si su contribución va a mejorar o a empeorar el mundo, no se puede garantizar la trasparencia durante el proceso, porque no se admite un control para evitar sesgos o manipulaciones, porque va a tener consecuencias indeseables en el mercado laboral, favoreciendo la destrucción del empleo, al menos en una primera etapa, o simplemente porque se desconfía de la utilización favorable por la humanidad.

Se plantea por parte del ponente que se mantiene la esperanza de que se pueda controlar el desarrollo de la IA de una manera razonable, partiendo de la base de que es imposible evitarla, no solamente porque hay que considerarla como un avance para la civilización por las aplicaciones favorables que ya ha demostrado tener, sino porque hay detrás muchos intereses en juego imposibles de frenar. Aunque siempre hay que contar con que, como con cualquier otro instrumento, puede ser utilizado bien o mal para la humanidad y el planeta.

La IA “generativa” “absorbe” datos, los “manipula”, los “comprende” y elabora un producto distinto. Actualmente la IA no se ha desarrollado tanto como para llegar al grado de que pueda ser peligrosa por sí misma, pero en el futuro podría adquirir conciencia de sí misma, hasta tomar sus propias decisiones e incluso tener o imitar las emociones humanas. Pero sí parece que sea capaz de conectar una multitud de redes de todo tipo de sectores, lo cual, si se dirige con malas intenciones, podría provocar una catástrofe de grandes dimensiones, mayor que la energía atómica.

Se pregunta qué significa que la IA “comprenda” y se explica que puede utilizar la lógica matemática, conocer el método científico, pero no se sabe si posee un pensamiento creativo o artístico o es simplemente imitativo, porque lo que no se conoce es de qué manera utiliza los datos de los que dispone para elaborar el producto final. Puede combinar algoritmos lógicos matemáticos con otro tipo de algoritmos. Su “pensamiento” es similar al humano en el sentido de que en él tampoco se conoce de qué manera funciona nuestro cerebro para tomar decisiones o  realizar determinadas acciones.

Se pregunta si puede saberse si el resultado que obtiene la IA es el correcto y se contesta por el ponente que actúa por una aproximación heurística, como nuestro pensamiento, que no garantiza que el resultado sea el mejor, por lo que puede cometer errores.

ALGOVERIT www.algoverit.org

Resumen elaborado por Helena Juárez