En este momento estás viendo Los tres niveles Man (in/on/out of) the Loop

Los tres niveles Man (in/on/out of) the Loop

Intro

Los siguientes niveles están relacionados con la inteligencia artificial y aplicables por ejemplo a los autos, aviones y/o barcos autónomos.

Man in the Loop

En este nivel, estamos directamente involucrados en la toma de decisiones junto con la inteligencia artificial (IA). Trabajamos juntos de manera muy estrecha, guiando y supervisando las acciones de la IA.

Ejemplo

Un asistente virtual impulsado con IA que nos ayuda a redactar correos electrónicos administrando nuestra comunicación aprovechando los algoritmos de la IA y los modelos de lenguaje. Nosotros podemos tomar decisiones acerca del tono y/o del contenido, mientras que el asistente virtual nos estará sugiriendo palabras y frases acordes al contenido que le estamos ofreciendo.

Conocimientos técnicos para entender y desarrollar

En este nivel, como estamos involucrados en todas las decisiones y la IA sólo proporciona información y recomendaciones, por lo tanto, los conocimientos técnicos necesarios para entender y desarrollar en este nivel incluyen: fundamentos de IA, métodos de IA e ingeniería de software.

Fundamentos de IA:
El desarrollador debe tener una comprensión básica de los conceptos de IA, como aprendizaje automático, aprendizaje profundo, razonamiento, planificación y toma de decisiones.

Métodos de IA:
El desarrollador debe conocer los diferentes métodos de IA que se pueden utilizar para abordar problemas de toma de decisiones, como redes neuronales, árboles de decisión, algoritmos genéticos y programación lineal.

Ingeniería de software:
El desarrollador debe tener habilidades en ingeniería de software, como diseño, desarrollo, pruebas y despliegue de sistemas de software.

Man on the Loop

Aquí, la inteligencia artifiial estará manejándose de forma más autónoma, es decir que estará actuando de manera más independiente, pero nosotros estaremos interviniendo de vez en cuando para supervisar o ajustar. Debemos considerar que nuestra intervención será menos frecuente comparándolo con el nivel «Man in the Loop».

Ejemplo

Un robot de limpieza automático que funciona de manera independiente la mayor parte del tiempo, y que ocasionalmente necesita que intervengamos para que pueda finalizar con alguna tarea que se esté viendo interrumpida posiblemente por un inconveniente en su ruta.

Conocimientos técnicos para entender y desarrollar

En este nivel, como estamos presentes en el proceso de toma de decisiones, pero no somos los únicos responsables ya que la IA toma la iniciativa en la mayoría de las situaciones y nosotros estamos disponibles para intervenir si es necesario, por lo tanto los conocimientos técnicos necesarios para entender y desarrollar en este nivel incluyen: los mismos conocimientos que en «Man in the Loop» y Habilidades de interacción humano-computadora.

Habilidades de interacción humano-computadora:
El desarrollador debe tener habilidades para diseñar interfaces de usuario y sistemas que sean fáciles de usar y comprender para los humanos.

Man out of the Loop

En este nivel, la inteligencia artificial actúa de forma completamente independiente sin que intervengamos de manera constante, con lo cual estamos confiando en que la IA pueda tomar decisiones y realizar tareas por sí misma conforme a las diferentes situaciones que se le vayan presentando.

Ejemplo

El sistema de recomendación de videos que vaya aprendiendo tus gustos e intereses y te ofrezca los géneros correspondientes facilitando tu interacción con el sistema ya que tendrás a tu disposición los videos que muy probablemente están alineados a tus gustos.

Conocimientos técnicos para entender y desarrollar

En este nivel, la IA toma todas las decisiones sin nuestra intervención, por lo tanto, los conocimientos técnicos necesarios para entender y desarrollar en este nivel incluyen: los mismos conocimientos técnicos que para los niveles «Man in the Loop» y «Man on the Loop», y conocimientos del dominio específico del problema.

Conocimientos del dominio específico del problema:
El desarrollador debe tener un conocimiento profundo del dominio específico del problema que se está abordando, para que pueda diseñar un sistema de IA que sea seguro, confiable y efectivo.

Reflexión

Además de estos conocimientos técnicos, es importante que quienes desarrollen sistemas de IA tengan ciertos tipos de habilidades y/o conocimientos para comprender y abordar los desafíos complejos que se presenten, considerando que los entornos son críticos:

  • habilidades de pensamiento crítico
  • resolución de problemas y comunicación efectiva
  • conocimiento del dominio específico del problema
  • manejo de los posibles riesgos que pueden aparecer
  • identificación de posibles implicancias éticas

Autonomía según ISTQB CT-AI

En el programa de estudios, nos podemos encontrar con varias citas relacionadas con el concepto autonomía.

Autonomía

Al definir la autonomía, un sistema totalmente autónomo sería completamente independiente de la supervisión y control humanos.
En la realidad (por lo menos hasta el momento), la plena autonomía no se busca con frecuencia.

Tenemos la asociación de que los sistemas autónomos son «inteligentes», ésto es porque incluyen componentes que se basan en IA para realizar ciertas funcionalidad.
El aprendizaje profundo es el enfoque más efectivo a implementar. Los sistemas autónomos también pueden incluir funciones de toma de decisiones y control, ambas pueden realizarse eficazmente mediante componentes basados en IA.

En el plan de estudios, la autonomía se considera como la capacidad del sistema para trabajar de manera independiente de la supervisión y control humanos durante períodos prolongados, ayudándonos a identificar sus características a especificar y probar. Por ejemplo, es necesario conocer la duración durante la cual se espera que un sistema autónomo funcione satisfactoriamente sin intervención humana, y en qué momento el sistema autónomo debe devolver el control a sus controladores humanos.

Resumen

Estos niveles representan diferentes grados de interacción entre humanos e inteligencia artificial. A medida que avanzamos desde «Man in the Loop» hasta «Man out of the Loop,» la autonomía de la IA aumenta, y la necesidad de intervención humana disminuye. Cada nivel tiene aplicaciones específicas dependiendo de los requisitos y la confianza en la capacidad de la IA para tomar decisiones.

Comentario final

¿Te ha sido útil el contenido? Puedes seguirme por LinkedIn donde también publico y podrás dejar tus comentarios. Me ayudaría mucho que dejes tu comentario y que compartas a tus contactos de la red, el contenido. Muchas gracias

Gus Terrera

Apasionado por el agile testing y la ia.