Enfoque centrado en el ser humano para el desarrollo de sistemas de IA

 

Cuando analizamos en el impacto de la inteligencia artificial (IA) en nuestras vidas, no solo necesitamos pensar en vehículos de última generación que se conducen solos. La IA se puede utilizar en tareas mucho más cercanas, como los chatbots que atienden a los clientes, en el diseño de medicamentos y en la toma de decisiones de inversiones de dinero, entre otras.

 

La IA tiene el potencial de ayudarnos a resolver muchos problemas de hoy y del mañana y, a pesar de los niveles de automatización que permite, la base común es el elemento humano, no solo en el diseño y operación de los sistemas de IA, sino también en el uso. En esta línea, el uso responsable de la IA es imprescindible en toda institución, gobierno y empresa para garantizar que estos sistemas atiendan las necesidades de las personas de manera eficaz, transparente y equitativa. Pero, ¿cómo podemos garantizar que los sistemas de IA estén diseñados de manera responsable y produzcan resultados efectivos?

 

La IA centrada en el ser humano es el camino a seguir. Es una disciplina emergente que intenta crear sistemas de IA que amplifiquen y aumenten -en lugar de desplazar- las capacidades humanas. Busca preservar el control humano de una manera que garantice que la inteligencia artificial satisfaga nuestras necesidades mientras opera de manera transparente, brinda resultados equitativos y respeta la privacidad.

 

De acuerdo con nuestra experiencia en IBM trabajando con clientes y gobiernos de todo el mundo, algunas áreas críticas para el éxito de los sistemas de IA centrados en el ser humano son:

 

Colaboración y co-creación de humanos e IA

Al adherirnos al valor central de que "humano + IA" es el mejor enfoque, podemos desarrollar experiencias de usuario novedosas que fomenten esta colaboración, tanto en el desarrollo de sistemas como en el objetivo final del mismo, ya que nunca debemos perder de vista el hecho de la IA se crea para personas reales y diversas. La ciencia de datos ofrece un excelente ejemplo de cómo las personas y la IA pueden trabajar juntas para aumentar nuestra capacidad de obtener información significativa de los datos y mejorar la toma de decisiones informada. Para identificar y analizar conjuntos de datos grandes y dispares para obtener nuevos conocimientos que ayuden a resolver problemas complejos, los científicos de datos deben crear modelos y medir su rendimiento. Luego los optimizan y evalúan su equidad y solidez. Esos conocimientos, por ejemplo, llevaron a IBM a desarrollar la tecnología AutoAI, que permite a los científicos de datos producir más modelos de aprendizaje automático de mayor calidad, más rápido y con menos errores.

 

IA responsable y compatible con los humanos

Este área cubre todos los aspectos de cómo los sistemas de IA centrados en el ser humano pueden proporcionar resultados positivos y beneficiosos para sus usuarios directos, aquellos impactados por su operación y para la sociedad en general. Si queremos lograr estos resultados, la IA centrada en el ser humano debe ser justa e imparcial, segura, aplicada éticamente y utilizada al servicio de las necesidades de los usuarios. Los esfuerzos para desarrollar una IA confiable y compatible con los humanos toman en cuenta varios factores, incluida la necesidad de entender cómo las personas interactúan con los sistemas de IA, confían en ellos, explican el funcionamiento de los modelos y mejoran la comprensión de las personas sobre cómo funcionan estos sistemas. Las estrategias también deben medir el posible uso indebido de la IA, incluidas las formas de mitigar los sesgos humanos y de los sistemas. Y aquí es clave el trabajo integrado del ecosistema, ya que entre todos debemos asegurarnos de que se cumplan estos parámetros y que las organizaciones sean responsables de la creación, gestión y control de sus sistemas de IA.

 

Interacción de lenguaje natural

Las interfaces conversacionales impulsadas por sistemas de diálogo avanzados han ganado popularidad y se han desarrollado muchos asistentes inteligentes para fines comerciales, sociales y emocionales. En esta línea, el equipo de IBM Research está investigando el uso de estilos formales e informales de lenguaje por parte de los asistentes de atención al cliente con IA. A medida que las tecnologías que desarrollamos se vuelven más inteligentes y autónomas, nuestras interacciones con esos sistemas se transformarán. Una segunda frontera para la IA centrada en el ser humano es investigar y comprender el diseño de los sistemas de IA que se convierten en socios creativos. En el mundo de los negocios, la co-creatividad humano + IA involucra a expertos que trabajan con un sistema de IA que genera código, co-diseña experiencias de usuario y acelera el descubrimiento científico.

 

Prevemos que la experiencia del usuario de crear artefactos, tanto físicos como digitales, se convertirá en una asociación en la que las personas asumirán el papel de especificación, establecimiento de objetivos, dirección, creatividad de alto nivel, curación y gobernanza, mientras que la IA aumentará las habilidades humanas a través de la inspiración, creatividad, trabajo detallado de bajo nivel y la capacidad de diseñar a escala. La clave, una vez más, será la colaboración humano + IA.