Evaluar Conozca los pros y contras de las tecnologías, productos y proyectos que está considerando.

El estado actual de la IA no es bien entendido por el público

Las aplicaciones actuales de la IA giran enteramente en torno al aprendizaje automático. Pero el investigador Zachary Lipton dice que ese no es el mensaje que recibe de la mayoría de cobertura mediática sobre IA.

El público en general está mal informado sobre el estado actual de las tecnologías de IA, y los investigadores y los periodistas que cubren su trabajo están haciendo un mal trabajo al explicar a la gente de qué se tratan realmente los avances recientes en IA. Esa es la opinión de Zachary Lipton, profesor e investigador de la Universidad Carnegie Mellon. Y dada la reciente cobertura de la IA en la prensa popular, es difícil discutir la perspectiva.

En una presentación en la reciente conferencia MIT EmTech 2018 en Cambridge, Massachusetts, Lipton habló sobre cómo las personas con poca habilidad técnica y comprensión se están convirtiendo cada vez más en personas influyentes en el mundo de la IA, aprovechando el ciclo de exageración en torno a la IA para promocionarse. Esto, a su vez, alimenta un sistema de medios que presta más atención a las citas llamativas que a las explicaciones técnicas profundas.

¿Cuántas veces en el último año hemos leído titulares sobre las advertencias de Elon Musk a la humanidad sobre el apocalipsis de robots? Las declaraciones de Musk parecen estar más informadas por Hollywood que cualquier comprensión objetiva del estado actual de las tecnologías de IA.

O piense en la cantidad de artículos que probablemente haya visto sobre The Singularity, un fenómeno puramente teórico que involucra que las máquinas tomen conciencia y que la mayoría de los investigadores de IA dicen que está a al menos un siglo de distancia, si es que alguna vez ocurre.

Estas tecnologías constituyen la mayoría de las herramientas de inteligencia artificial de hoy.

El estado actual de la IA tiene poco que ver con las ideas de Hollywood

Estos temas están muy lejos de lo que realmente significa la IA de hoy en día, que es el aprendizaje automático. Las aplicaciones más avanzadas, desde la generación de lenguaje natural hasta el reconocimiento facial, se manejan únicamente mediante la comparación de patrones.

De hecho, los desarrolladores han encontrado maneras asombrosamente inteligentes de aplicar la comparación de patrones a una amplia gama de tareas, pero esta tecnología nunca va a pensar por sí misma, razonar o poseer emoción genuina. Ciertamente, nunca se decidirá de forma independiente a activar las claves de lanzamiento de las armas nucleares del mundo. Sin embargo, estos son el tipo de cosas en las que la mayoría de las personas piensa cuando piensa en la IA.

En su opinión, Lipton dijo que los investigadores deben hacer un mejor trabajo para describir claramente lo que están haciendo sus tecnologías. En lugar de simplemente abofetear el término IA en algo y esperar a que llegue la financiación de capital de riesgo, deberían articular específicamente qué hacen sus modelos y cómo. Y los periodistas deben dejar de promocionar todos los trabajos de investigación con IA en su título como un signo de la creciente inteligencia de la máquina.

Lipton me pierde un poco cuando habla de cómo las personas con habilidades de desarrollo a nivel de expertos deben ser los impulsores de las discusiones de IA. Eso implica que, para tener una opinión respetable sobre la IA, uno necesita tener un Ph.D. de una universidad de investigación de alto vuelo.

Esto es insostenible en un mundo donde el aprendizaje automático se inyecta cada vez más en áreas sensibles de la vida cotidiana, como la decisión crediticia, la vigilancia y la educación. Puede que yo no sepa cómo entrenar una red neuronal, pero sé lo suficiente como para sentirme mal cuando me niegan una línea de crédito porque un modelo que analiza los factores que están fuera de mi control le da al banco una recomendación que solo es algo interpretable.

Y la otra cara es que las personas con experiencia técnica no siempre poseen el conocimiento más firme de cómo se desempeñan sus modelos en el mundo real. Estoy seguro de que fue una persona muy conocedora quien creó la herramienta de clasificación de imágenes para la aplicación Google Photos que clasificó a un usuario afroamericano y su amigo como gorilas.

Hemos visto, con demasiada frecuencia, la arrogancia de los programadores que creen que sus herramientas son intrínsecamente valiosas y están ciegos en cómo afectan a las personas realmente. Ungir a estas personas como árbitros de opiniones adecuadas sobre el estado actual de la IA parece peligroso. Desterrar a los periodistas, a quienes Lipton describió como a menudo siendo "superados por esfuerzos mañosos de relaciones públicas", no es una respuesta.

IA hoy exige un público comprometido

Aún así, la necesidad de una amplia gama de voces refuerza el punto más amplio de Lipton, que es que un mundo cada vez más controlado por algoritmos exige un público que conozca qué es el aprendizaje automático y cómo funciona el aprendizaje automático, al menos a grandes rasgos. Las tecnologías de inteligencia artificial solo se harán más comunes y desempeñarán un papel más importante en la vida de las personas. Si las personas normales se van a ver afectadas por la IA, las personas normales deben entenderla.

Si los periodistas y otros laicos van a participar en la discusión, debemos hacerlo mejor. No basta con hablar sobre la IA y cómo beneficiará a una determinada industria o área de la vida. Necesitamos ser específicos sobre qué es la tecnología y cómo funciona. Sobre todo, debemos detener la antropomorfización de código que es capaz de poco más que hacer predicciones basadas en patrones observados.

 

Este artículo se actualizó por última vez en octubre 2018

Profundice más

Inicie la conversación

Envíenme notificaciones cuando otros miembros comenten sobre este artículo.

Por favor cree un Nombre de usuario para poder comentar.

- ANUNCIOS POR GOOGLE

Close