Antecedentes de la inteligencia artificial: Mitos, realidad y riesgos

En 1950, Alan Turing publicó un ensayo revolucionario en el que formulaba una pregunta sencilla: “¿Puede pensar una máquina?”. De ser así, puede mostrar un comportamiento inteligente y, tal vez un día, superar la inteligencia de sus creadores humanos. Este concepto de “superinteligencia” ha inspirado muchas historias de ciencia ficción.

Pros y contras de la inteligencia artificial

El Premio Loebner es un concurso internacional en el que cada año se premian los programas informáticos más parecidos a la inteligencia humana. Sin embargo, hasta ahora, ninguno de los ganadores ha superado realmente la prueba, y los científicos están lejos de saber diseñar la superinteligencia artificial. De hecho, tal vez se necesiten decenios para desarrollar la capacidad de crear la inteligencia artificial fuerte, es decir, una inteligencia artificial comparable a la inteligencia humana. Los planteamientos que existen en la actualidad forman parte de lo que suele denominarse inteligencia artificial débil, es decir, sistemas que son inteligentes, no porque logran imitar la inteligencia humana, sino porque pueden realizar tareas que, de otro modo, necesitarían de inteligencia humana, tiempo y esfuerzo. Poco a poco, estos algoritmos de IA están sustituyendo y complementando los algoritmos tradicionales que resolvían problemas mediante computadoras.

Los procesos algorítmicos de la IA son diferentes a los tradicionales y pueden ser más eficaces para realizar muchas tareas. En lugar de escribir un programa para cada tarea concreta, la IA recopila muchos ejemplos que muestran la respuesta correcta (o incorrecta) de un problema determinado. Los algoritmos de IA utilizan estos ejemplos para generar un programa que ejecute estas tareas. El programa debe aplicarse a situaciones nuevas. Si los datos de entrada cambian, el programa también cambiará cuando se entrene con los datos nuevos. En la actualidad se dispone de una gran cantidad de potencia computacional para este tipo de tareas, por lo que la IA es más rentable que crear un programa específico para cada tarea.

Esta capacidad de escalabilidad y de aprovechamiento de la información de los datos ha hecho que la inteligencia artificial sea una herramienta fundamental y complementaria para los responsables de la formulación de políticas y los proveedores de servicios que trabajan por el bien de la sociedad. Se utilizan actualmente diversas herramientas de IA para dar respuesta a las crisis, promover el empoderamiento económico, hacer frente a los problemas educativos, mitigar los problemas ambientales, garantizar la igualdad y la inclusión, promover la salud, luchar contra el hambre, verificar y validar la información, gestionar la infraestructura, administrar el sector público y social, e incluso los ámbitos de la seguridad y la justicia.

El carácter multidisciplinario de la inteligencia artificial

Si bien actualmente la inteligencia artificial todavía se considera inteligencia artificial débil, sus algoritmos tratan de imitar el pensamiento humano, lo que supone simular la manera real de pensar y actuar de las personas. Para diseñar algoritmos de inteligencia artificial es necesario comprender cómo razona el ser humano, lo que hace y cómo actúa. También implica simular el modo en que el ser humano ideal debería pensar y actuar. Para entender estos aspectos hay que aplicar el conocimiento sobre el razonamiento racional y ético. La inteligencia artificial consiste en crear una IA que sepa cómo “debe actuar”. Para juzgar el éxito de estos algoritmos se utilizan criterios de rendimiento de la estadística, la física, las matemáticas, la filosofía, la economía, las ciencias sociales, la neurociencia y las ciencias cognitivas. Por este motivo, para desarrollar un algoritmo de IA viable, hay que adoptar un enfoque interdisciplinario, que está a punto de surgir.

El térmico genérico de inteligencia artificial abarca varias disciplinas, que plantean preguntas tales como: ¿Pueden hablar las computadoras? ¿Pueden reconocer o entender el lenguaje? ¿Pueden aprender y adaptarse? ¿Pueden ver? ¿Pueden planificar y tomar decisiones? Distintas subdivisiones de la IA han surgido y evolucionado para dar respuesta a estas preguntas, entre ellas, el procesamiento del lenguaje natural, la visión artificial, el aprendizaje automático y la extracción de datos. En los últimos años se han desarrollado varios nuevos métodos y técnicas, como las redes neuronales convolucionales, que permiten obtener un rendimiento muy alto basado en grandes cantidades de datos. Estos algoritmos suelen basarse en una secuencia específica de procesos, que comienzan con la recopilación de datos, seguidos de la depuración, el almacenamiento y la gestión de estos datos, de su selección y transformación, el análisis visual, los procesos de modelización iterativa, la medición y supervisión del rendimiento, y, por último, el resultado final. Para estos procesos, los datos se dividen en diferentes conjuntos de datos con los que se entrenan, validan y prueban los modelos sobre la base de los datos disponibles. Estos procesos se asemejan a la manera en que los seres humanos procesan la información.

Riesgos

Los algoritmos de IA pasan por varios subprocesos. Por lo tanto, hay que tener en cuenta una serie de elementos importantes, por ejemplo el sobreajuste. A veces, los algoritmos desarrollados se adaptan tan bien al conjunto de datos con el que están entrenados que es difícil obtener resultados significativos cuando se aplican posteriormente a situaciones reales. Además, los sistemas de inteligencia artificial puede verse afectados por datos, algoritmos y una intervención humana inadecuados. Se introduce en la computadora una gran cantidad de datos para que pueda reconocer ciertos patrones. Los datos no estructurados de Internet, las redes sociales, los dispositivos móviles, los sensores o los dispositivos inteligentes (por ejemplo, el Internet de las cosas) dificultan la introducción, la vinculación, la clasificación y el procesamiento de los datos. Si los datos no se seleccionan y organizan minuciosamente, el conjunto de datos puede estar plagado de datos incompletos o faltantes, o puede ser inexacto o sesgado, e incluso se puede producir una divulgación involuntaria de datos confidenciales, a menos que se tenga cuidado de eliminar los datos personales de todos los conjuntos de datos.

Los sistemas de IA son propensos al sesgo algorítmico. Algunos algoritmos solo utilizan ciertos tipos de datos. Por otro lado, el sesgo depende en gran medida de sus desarrolladores y de la forma en que se implementan y finalmente se utilizan. Mucho depende de cómo se plantee el problema. Al plantear un problema, los científicos deciden lo que quieren lograr con su algoritmo de aprendizaje. Un algoritmo diseñado, por ejemplo, para determinar la solvencia de los prestatarios, que esté programado para maximizar los beneficios en lugar de maximizar el número de préstamos, podría conducir, en última instancia y de forma no intencionada, a la concesión de préstamos de alto riesgo. Incluso la composición del equipo de desarrollo puede ser tendenciosa. El planteamiento de los problemas depende de quién diseña el algoritmo, quién decide el modo en que se aplica, quién decide el nivel de exactitud aceptable y quién decide si las aplicaciones de la IA son éticas. Dado que estas cuestiones a menudo no se han abordado adecuadamente, han proliferado los algoritmos que dictan qué anuncios políticos reciben los ciudadanos, qué criterios utilizan los agentes de contratación para seleccionar a los solicitantes de empleo, e incluso el modo en que se despliegan las fuerzas de seguridad en los barrios.

Hacia un uso ético de la inteligencia artificial

Si bien la existencia de la AI como ciencia se remonta a mucho tiempo atrás, su uso en el ámbito de la tecnología es relativamente nuevo y, por lo tanto, muchos líderes del mercado aún no han desarrollado la sensibilidad y los conocimientos prácticos relativos a los riesgos que supone para las personas, la sociedad y las organizaciones. Algunos tienden a pasar por alto los peligros y otros a sobrevalorar la capacidad de mitigación de los riesgos. Además, los encargados de adoptar decisiones no consiguen llegar a un consenso sobre qué riesgos hay que prever. Muchas empresas afirman haber tomado las precauciones necesarias, que recopilan datos de aprendizaje con más repetición, comprueban periódicamente las tendencias no deseadas y realizan análisis de los efectos en determinados grupos. Sin embargo, muchos expertos en ética de la IA señalan que los algoritmos de IA están entrenados con datos obsoletos. Un algoritmo que produce resultados aceptables con un conjunto de datos antiguo puede fallar completamente cuando se aplica a la realidad. Por lo tanto, la ética en la IA se ha convertido en un tema de investigación fundamental.

Experiencias de aplicación en el ámbito de la seguridad social

Cada vez se aplica más la IA en la seguridad social, sobre todo para mejorar los servicios al usuario por medio de la asistencia automatizada en la interfaz del usuario (front-end) las 24 horas y también, de forma incipiente, de la automatización de los procesos de tareas del modo administrador (back-end) (véase el gráfico 1).

Varias instituciones de seguridad social han puesto en marcha chatbots inteligentes para mejorar el servicio de atención al usuario en línea, prestando servicios de calidad las 24 horas del día en las diferentes ramas y tipos de prestaciones. Los chatbots inteligentes pueden simular el comportamiento humano y responder de forma autónoma a las preguntas de los usuarios. Están disponibles las 24 horas del día y pueden adaptarse a las preferencias de los usuarios.

La Superintendencia de Riesgos del Trabajo (SRT) de la Argentina ha puesto en funcionamiento un chatbot inteligente llamado Julieta, que puede responder a las preguntas de los usuarios sobre las prestaciones por accidentes de trabajo. Este chatbot ha cumplido el objetivo de facilitar a los usuarios servicios automatizados y personalizados, respondiendo no solo a las preguntas más frecuentes, sino también solicitando información sobre el estado de las operaciones de los usuarios, como la afiliación y las solicitudes de prestaciones. Entre los principales factores identificados se encuentran la creación de una base de conocimientos de calidad y el aprendizaje continuo del chatbot, que recibe instrucciones de un equipo multidisciplinario.

A su vez, el chatbot inteligente creado por la Administración Noruega del Trabajo y Bienestar Social (Norwegian Labour and Welfare Administration – NAV) ha permitido responder a una mayor demanda de información en el contexto de la crisis provocada por la COVID-19. Concretamente, durante el periodo de marzo a mayo de 2020, el chatbot respondió a más de 8 000 consultas diarias, en comparación con las 2 000 que se gestionaban a diario antes de la crisis sanitaria. Los factores clave del éxito han sido el aprendizaje del chatbot por medio de una base de conocimientos actualizada diariamente, el énfasis en un tipo específico de información y la vigilancia constante del chatbot por un experto humano. Se ha comenzado a extender el uso del chatbot a otras cuestiones, en particular a la ayuda que se presta a los empleadores y a los trabajadores por cuenta propia.

En el Uruguay, el Banco de Previsión Social (BPS) ha creado un chatbot inteligente que responde a las consultas de los empleadores sobre el régimen de los trabajadores domésticos. Mediante la aplicación de técnicas de gestión del diálogo y de procesamiento del lenguaje natural, el chatbot entiende las intenciones del usuario y sugiere medidas adecuadas. El chatbot se puso en marcha en enero de 2019 y, en la actualidad, responde al 97 por ciento de todas las consultas; para el 3 por ciento restante se utiliza personal experto. El periodo de introducción duró alrededor de 12 meses, seis de los cuales se dedicaron al aprendizaje y a las pruebas. Los principales factores que se identificaron fueron la actualización constante de la base de conocimientos y la participación de un equipo multidisciplinario en el desarrollo y la puesta en funcionamiento del chatbot.

La Organización General del Seguro Social (General Organization for Social Insurance – GOSI) de Arabia Saudita ha puesto a prueba el uso de chatbots para prestar sus servicios de atención al usuario. El objetivo era crear un agente inteligente que pudiera responder a las consultas de los usuarios y simplificar ciertos servicios y transacciones. El agente se comunica con los usuarios a través de diferentes aplicaciones de chat y redes sociales.

Algunas instituciones también utilizan la inteligencia artificial para mejorar los procesos administrativos o de back-end, especialmente para procesar grandes cantidades de datos, incluidas las bases de datos tradicionales, así como el texto y las imágenes no estructuradas de los documentos de papel digitalizados.

El Ministerio de Empleo y Desarrollo Social del Canadá (Employment and Social Development Canada – ESDC) aplica la inteligencia artificial para identificar a los beneficiarios del complemento de ingresos garantizado (Guaranteed Income Supplement – GIS), prestación en efectivo destinada a las personas de edad avanzada con bajos ingresos. En dos meses, los modelos de aprendizaje automático identificaron a más de 2 000 canadienses vulnerables que tenían derecho al GIS mediante el procesamiento de más de 10 millones de documentos con texto no estructurados. A fin de llegar al mayor número posible de personas vulnerables, los expertos de la administración del programa GIS diseñaron el modelo para que fuera muy inclusivo y también aceptaron deliberadamente falsos positivos, que tendrían que verificarse manualmente.

Esta experiencia ha demostrado la importancia de utilizar datos representativos, de tener en cuenta los matices y de definir los niveles de precisión y los límites adecuados en función de las necesidades de la institución, desarrollando el conjunto de datos para el aprendizaje del modelo en colaboración con el personal operativo. Como lección aprendida, el ESDC ha destacado que la calidad de los datos subyacentes es crucial y que los proyectos de IA deben ser gestionados por equipos multidisciplinarios compuestos por especialistas en datos y personal operativo. Entre los principales riesgos se han señalado la selección de herramientas adecuadas y la falta de conocimiento sobre los datos por parte del personal de la organización.

La Institución del Seguro Social (Kansaneläkelaitos) de Finlandia ha comenzado a aplicar la inteligencia artificial de dos maneras: (i) para mejorar los servicios al usuario mediante la combinación de servicios electrónicos con chatbots inteligentes; y (ii) para utilizar el reconocimiento de imágenes basado en la IA para automatizar los procesos administrativos de reconocimiento de documentos.

En el Brasil, el Instituto Nacional de Seguridad Social (Instituto Nacional do Seguro Social – INSS) también ha implementado un chatbot inteligente llamado Helô que responde automáticamente a las preguntas de los usuarios las 24 horas del día en el marco de los servicios electrónicos personalizados del portal Meu INSS. En mayo de 2020 se puso en marcha una primera versión que ya ha procesado cerca de un millón de consultas. El INSS también utiliza la inteligencia artificial para detectar más rápidamente el fallecimiento de los beneficiarios y evitar así pagos indebidos.

Asimismo, la Caja Auxiliar de Prestaciones de Desempleo (Caisse auxiliaire de paiement des allocations de chômage – CAPAC) de Bélgica ha aplicado la inteligencia artificial de forma preliminar para tramitar los formularios en papel mediante el reconocimiento óptico de caracteres, aunque no ha producido resultados satisfactorios. A pesar de estas dificultades, las aplicaciones de la IA siguen siendo una prioridad para la CAPAC, que planea desarrollar un chatbot inteligente.

A su vez, los Seguros Sociales de Austria (Dachverband der österreichischen Sozialversicherungsträger – SV) utilizan la IA para diversos fines. Entre ellos se encuentra la puesta en marcha un chatbot inteligente, OSC Caro, que ofrece apoyo digital a los usuarios en diversos ámbitos, como los subsidios para el cuidado infantil, prestaciones de enfermedad y reembolsos. Además, el centro de atención telefónica está apoyado por un sistema de reconocimiento de voz que dirige automáticamente las consultas de los usuarios a los departamentos correspondientes. El modelo de lenguaje del sistema, basado en la IA, ha sido entrenado para reconocer términos específicos. Además, la inteligencia artificial se utiliza para reenviar automáticamente los correos electrónicos entrantes a los departamentos correspondientes, con una tasa de acierto de hasta un 93 por ciento. Por último, se ha puesto en marcha un proyecto para procesar de manera semiautomática el reembolso de los costos de los servicios médicos basado en la inteligencia artificial. En este caso, la IA permite automatizar varias tareas, como el reconocimiento de los documentos presentados, la clasificación del diagnóstico mediante la norma CIE-10 y la extracción de los datos necesarios para el reembolso (como el importe de la factura, el IBAN, etc.). Este procesamiento semiautomático ha acelerado el proceso de reembolso y ha brindado apoyo al personal involucrado.

A nivel gubernamental, varios países están definiendo estrategias nacionales en materia de inteligencia artificial. La estrategia de Estonia, por ejemplo, tiene por objeto poner en práctica servicios gubernamentales proactivos elaborados a partir de los acontecimientos de la vida y ofrecer servicios personalizados sin burocracia mediante el uso intensivo de la inteligencia artificial.

El enfoque de Estonia de los servicios públicos digitales basados en la inteligencia artificial se está poniendo en práctica mediante #KrattAI, una red interoperable de aplicaciones de IA, que permite a los ciudadanos utilizar los servicios públicos mediante la interacción con asistentes virtuales basada en la voz. Hay más de 70 proyectos en curso en el marco de esta estrategia, 38 de los cuales ya están en funcionamiento. Estos proyectos abarcan un gran número de ámbitos, entre ellos las aplicaciones ambientales, el apoyo en situaciones de emergencia, la ciberseguridad y los servicios sociales. En particular, en el contexto de las prestaciones por desempleo se utiliza un chatbot inteligente para el servicio de atención al usuario y la tramitación de los casos que entrañan un riesgo de desempleo por largo tiempo.

Entre las lecciones aprendidas de esta experiencia figuran la necesidad de garantizar la calidad y la privacidad de los datos procesados, de proporcionar metadatos y de gestionar la escalabilidad de las aplicaciones basadas en IA mediante el uso de la infraestructura en la nube y la elaboración de planes de adquisición adecuados. Además, deben definirse correctamente los límites de la automatización de los servicios públicos.

Conclusiones principales

La inteligencia artificial se está convirtiendo de forma progresiva en una tecnología fundamental para las instituciones de seguridad social, que les permite mejorar la eficiencia administrativa mediante la automatización de los procesos y ayudar al personal en aquellas tareas que se apoyan en decisiones humanas.

Si bien se observan avances, también hay problemas, sobre todo en lo relativo a las limitaciones y los riesgos de la IA, y al equilibrio entre la automatización de los procesos y el control humano. Además, las diferencias metodológicas entre la IA y el desarrollo de programas informáticos convencionales plantean desafíos a las instituciones que ejecutan los proyectos.

Entre los factores decisivos destacan la disponibilidad y la calidad de los datos necesarios para el entrenamiento adecuado de los sistemas de inteligencia artificial. Estas “necesidades de datos” requieren el establecimiento de una estrategia organizativa, de manera que se puedan utilizar los datos internos y los de otras organizaciones, y el cumplimiento de las normas de protección de datos.

La introducción de sistemas de inteligencia artificial requiere capacidades institucionales específicas. Las instituciones deben tener una visión clara del objetivo del proyecto, seleccionar datos que sean representativos del mundo real, escoger soluciones simples, tener en cuenta los enfoques subyacentes a los algoritmos utilizados, seleccionar modelos que no solo produzcan los mejores resultados, sino que también cumplan las normas de equidad cuidadosamente elaboradas, y, por último, garantizar la transparencia para asegurar la rendición de cuentas.

Además, las instituciones que ya utilizan soluciones de inteligencia artificial han subrayado la importancia de que los proyectos sean desarrollados por equipos multidisciplinarios que involucren a personal operativo y expertos en datos. En este sentido, el conocimiento del personal sobre los sistemas de IA y la gestión de datos es también un factor fundamental. La dirección de las organizaciones y los gestores de proyectos tienen que entender las consecuencias de la utilización de la IA para definir los procesos que pueden automatizarse y las decisiones que hay que dejar en manos de las personas.

La AISS desea expresar su agradecimiento a Moinul Zaber, Investigador Académico Principal del Departamento de Gobernanza Electrónica basada en Políticas de la Universidad de las Naciones Unidas por su contribución técnica a este artículo.

Referencias

• Webinario de la Red Europea de la AISS: Inteligencia artificial para las instituciones de seguridad social, 22 de septiembre de 2020
• Webinario de la AISS: Mejorando la atención al público a través de servicios en línea avanzados,18 de junio de 2020
• Webinario de la AISS: Mejorar la eficiencia y los servicios de atención al usuario mediante la automatización avanzada de los procesos, 17 de junio de 2020
• Webinario de la AISS: Mejora de los canales digitales mediante servicios electrónicos avanzados, 4 de junio de 2020