AI100 es una organización compuesta por académicos de importantes universidades del primer mundo (principalmente EEUU e Inglaterra), junto a investigadores de Microsoft y Google y de la consultora McKinsey. El objetivo de esta asociación es hacer un diagnóstico de la situación actual y recomendaciones respecto al avance de la Inteligencia Artificial. Se publica un informe cada cinco años. El primero fue en 2016 y en el pasado mes de octubre apareció el segundo reporte, que suma 83 páginas y se puede leer completo en el siguiente link.
¿Cuáles han sido los logros concretos de la IA al día de hoy?
👉Se está usando la IA para dictar frases por teléfono, obtener recomendaciones y asistencia en conferencias virtuales.
👉El aprendizaje automático ha pasado de la investigación a la vida real en gran cantidad de áreas. Los modelos de lenguaje aprenden a identificar patrones en textos y realizan traducciones, reconocen discursos, ayudan a mejorar la redacción y alimentan chatbots.
👉El procesamiento de imágenes se ha extendido a nivel global, pero las aplicaciones que reconocen caras y arman personas que parecen reales están siendo seriamente discutidas.
👉Durante 2020 la industria robótica creció enormemente gracias a las restricciones por el Covid19.
👉Las predicciones sobre los vehículos autónomos no se han cumplido, pero ya se han empezado a usar limitadamente en algunas ciudades.
👉Se están identificando una serie de enfermedades relacionadas con la piel y el cáncer; y se está utilizando en el diagnóstico clínico.
👉Con respecto a las instituciones financieras, la IA está ayudando a detectar fraudes y lavado y mejorando la ciberseguridad.
👉Los consumidores están usando cada vez más métodos de IA para recomendación de productos, servicios y contenidos; aunque esto está generando preocupación en cuanto a problemas éticos relacionados a discriminación.
¿Cuáles son los principales desafíos que enfrenta la industria de la IA?
Ha habido un gran avance en temas relacionados con la lectura de textos, la traducción simultánea y en la asistencia para evitar accidentes al manejar. Por otra parte no se han logrado buenos resultados en la resolución de problemas matemáticos. Y una de las conclusiones que brotan del análisis de las redes sociales es que la IA funciona mejor cuando es aplicada a casos bien concretos. Los principales desafíos que hay que tener en cuenta son: lograr mejores resultados en generalizaciones, detectar causalidad y entender y exhibir normatividad. El objetivo sería construir máquinas que puedan cooperar sin dificultades con humanos y puedan tomar decisiones alineadas con la complejidad de valores y preferencias.
¿Cuánto se ha progresado en entender los misterios de la inteligencia humana?
En los últimos cinco años ha ganado consenso la idea de que la inteligencia es un proceso colectivo, donde los individuos son un diente del engranaje. La IA está más enfocada en la habilidad de colaborar y soportar el trabajo humano que en imitar la inteligencia humana. El estudio de la inteligencia se está convirtiendo en el estudio de cómo grupos humanos son capaces de adaptarse y tener éxito, más que en cómo trabaja el procesamiento de información.
Hay tres puntos fundamentales en esta nueva perspectiva:
1) La inteligencia colectiva.
2) La neurociencia (cómo funciona el hardware del cerebro al implementar procesos sicológicos y sociales).
3) Los modelos computacionales (reconocimiento visual, procesamiento de lenguaje y otras actividades congnitivas).
La naturaleza de la conciencia y de cómo las personas integran información proveniente de múltiples sensores y diferentes orígenes, sigue siendo un gran misterio.
¿Cuáles son las perspectivas en cuanto al desarrollo de la IA?
Se está muy lejos de producir un sistema general de IA, a pesar de lo cual en los últimos años se ha progresado mucho en estos tres campos:
👉La habilidad de un sistema de IA para aprender por sí misma. Un modelo que permite la autoenseñanza es la forma en que se están desarrollando los procesos de lenguaje natural que aplican, por ejemplo, la herramienta de búsqueda de Google y el traductor.👉La habilidad de un sistema de IA para aprender de forma continua en la resolución de diferentes problemas sin tener que recurrir a reentrenar el sistema cada vez que se lo utiliza. Un camino que se está desarrollando es entrenar una red neuronal en varias tareas, donde el objetivo es que la IA entienda propósitos generales.
👉La habilidad de un sistema de IA para generalizar. Es decir, adaptar el conocimiento y las capacidades adquiridas en una tarea a nuevas situaciones. Una dirección esperanzadora es el uso de motivación intrínseca, en el cual un agente es recompensado por explorar nuevas áreas.
Mientras no estén más acoplados al mundo físico, los sistemas de IA aún permanecerán muy lejos de las habilidades humanas en cuanto a aprendizaje.
¿Cuál es el sentimiento de la gente respecto a la IA y su evolución? ¿Cómo deberíamos informarlos y educarlos?En años recientes la IA ha obtenido mucha visibilidad. Los medios de comunicación a menudo exageran y distorsionan el potencial de la IA tanto en lo negativo como en lo positivo, pero esto ha servido para mostrar legítimas preocupaciones respecto a prejuicios, falta de transparencia y responsabilidad y respecto al potencial de la IA para aumentar las desigualdades. Gobiernos, universidades y ONGs intentan ampliar el alcance de la IA en educación. Se está viendo la necesidad de reforzar el compromiso ético en el desarrollo de la IA. Tanto en Europa, como en Estados Unidos y China, crece la idea de limitar el uso del reconocimiento facial. Más información pública por parte de los científicos sería de gran ayuda para entender el impacto de estas tecnologías. Es importante que los investigadores se muevan más allá del objetivo de divulgar hacia algo más participativo con la comunidad.
¿Qué deberían hacer los gobiernos para asegurar que la IA se desarrolle responsablemente?
Desde la publicación del primer reporte AI100, cinco años atrás, más de 60 países han lanzado iniciativas relacionadas con IA y están interesados en cooperar multilateralmente en lo relacionado con estas nuevas tecnologías. Al día de hoy pocos países han adoptado regulaciones específicamente relacionadas con la IA. 24 países han optado por permitir la circulación de autos sin chofer en lugares limitados. Sólo Bélgica ha emitido leyes relativas a armas letales autónomas. La vigilancia respecto a las redes sociales se ha convertido en un tema candente a nivel global. Manejar apropiadamente los riesgos de aplicar la IA llevará inevitablemente a adoptar regulaciones y políticas responsables ante el rápido avance de estas tecnologías. Investigadores, funcionarios y organizaciones han empezado a evaluar el impacto de la IA y los algoritmos y también el impacto ambiental antes de comenzar nuevos proyectos.
¿Cuál debería ser el rol de la academia y la industria?
A medida que la IA toma cada vez más importancia, hay un potencial conflicto entre los sectores público y privado respecto al desarrollo, puesta en práctica y supervisión de la IA. El sector comercial continúa liderando la inversión y muchos científicos optan por trabajar en la industria. La presencia e influencia de estos científicos ha aumentado considerablemente, lo que ha llevado a dudar sobre el verdadero objetivo de las investigaciones publicadas. Ha crecido el interés por las ciencias de la computación entre los estudiantes y cada vez más las universidades abren cursos relacionados a aprendizaje automático e IA. Estudiar y evaluar el impacto social de la IA así como la preocupación respecto a la polarización que promueven los algoritmos será más fácil si hay una colaboración entre las universidades y la industria, facilitando acceso a datos y plataformas.
¿Qué es lo más promisorio en IA?
La IA puede ser muy valiosa en situaciones donde se complementan las capacidades humanas con la IA. Un sistema de IA puede ser más efectivo sintetizando los datos a disposición y tomando decisiones, mientras que la inteligencia humana puede ser mejor entendiendo las implicaciones de los datos. Es cada vez más claro que todas las partes interesadas deben participar en el diseño de asistentes de IA para producir un team humano que supere a cada parte por separado. El software IA también puede funcionar autónomamente, lo cual ayuda cuando grandes cantidades de datos deben ser examinados. Las tecnologías de chats interactivos tienen gran potencial. A medida que la IA se aplica cada vez más en situaciones con una cantidad limitada de datos, las predicciones pueden mejorar la eficiencia económica diaria, ayudando a consumidores y comerciantes a encontrar oportunidades, productos y servicios, interconectando a productores y consumidores. Creemos que muchas actividades serán potencialmente peligrosas en el futuro inmediato si se las deja en manos de sistemas de IA. En la mayoría de los casos el problema no está en los algoritmos mismos sino en la colección y organización de los datos y la efectiva integración de los algoritmos en amplios sistemas sociotécnicos.
¿Cuáles son los peligros más apremiantes de la IA?
A medida que las IA demuestran ser cada vez más eficientes en aplicaciones en el mundo real, han ampliado su alcance causando cada vez más riesgos de mal uso, saturación y abuso. Uno de los peligros más apremiantes de la IA es el tecno-solucionismo, la visión de que la IA es una panacea cuando en realidad se trata de una herramienta. Hay un aura de neutralidad e imparcialidad asociado con la toma de decisiones producto de las IA en algunos rincones de la conciencia pública, por el cual los sistemas de IA son aceptados como objetivos aun cuando pueden ser el resultado de decisiones tomadas en base a prejuicios históricos e incluso en discriminación intencionada.
Sin transparencia respecto a los datos o de los algoritmos que los interpretan, el público puede quedar en tinieblas respecto a cómo se toman decisiones que impactan en sus vidas cotidianas. Las IA están siendo usadas al servicio de desinformación en internet, convirtiéndolas en potencial amenaza al sistema democrático y una herramienta para el fascismo. Insuficiente análisis respecto al factor humano en la integración de IAs ha conducido a una oscilación entre la desconfianza hacia los sistemas y una excesiva confianza. Algoritmos de IA se están utilizando en decisiones concernientes a la distribución de órganos para trasplantes, vacunas y otros elementos de salud pública y esto lleva a decisiones que tienen que ver con la vida y la muerte.
¿Cómo ha impactado la IA en las relaciones socioeconómicas?
Aunque algunos sostienen que es una llave para incrementar la prosperidad humana, el potencial de las IA para suplantar el trabajo humano a bajo costo genera preocupación con respecto al futuro mercado laboral. Hasta ahora la IA no ha tenido efectos dramáticos en este sentido, probablemente porque su impacto está reducido a una parte pequeña de la economía. La IA podría tener un gran impacto en el mercado laboral sin generar impacto en la productividad. Aun no hay evidencias en ese sentido pero es algo que hay que vigilar con atención. Otros factores han tenido mucho más impacto en la economía que las IA –la globalización, los ciclos económicos y la pandemia. Pero si aquellos encargados de determinar las políticas concernientes a la IA no reaccionan a la par de los cambios que se están produciendo, las innovaciones podrán producir cada vez más desigualdad.
¿Cuál debería ser la estrategia a largo plazo?
¿Debemos atacar los nuevos desafíos aplicando métodos generales de resolución de problemas, o es mejor diseñar algoritmos específicos para cada problema? A grandes rasgos, ¿es mejor que las soluciones específicas sean diseñadas por humanos o producto del aprendizaje automático resultante de la alimentación de datos? El péndulo ha oscilado de ida y vuelta varias veces en la historia de la inteligencia artificial. En la década pasada, la suma de big data y la velocidad de los procesadores permitieron métodos de propósitos generales como el aprendizaje profundo que superan métodos especializados realizados “a mano”. Pero en los 2020, estos métodos generales están llegando a ciertos límites –disponibilidad de cálculo, tamaño de los modelos, sustentabilidad, disponibilidad de datos, fragilidad y carencia de semántica- lo que está llevando a los científicos de regreso a diseñar especializados componentes de sus sistemas para ponerlos a trabajar entre ellos. De hecho, hasta los sistemas de aprendizaje automático se benefician del uso de la apropiada arquitectura para cada trabajo determinado. El dominio del aprendizaje profundo (deep learning) puede estar llegando a su fin.
Para continuar progresando, es probable que los investigadores necesiten adoptar métodos codificados a mano para ciertos propósitos, así como procesadores más rápidos y mayor cantidad de datos.
