Evaluar Conozca los pros y contras de las tecnologías, productos y proyectos que está considerando.

Poner en práctica la ética tecnológica es lo correcto

Esa nueva aplicación genial puede traer una fortuna en el mercado, pero ¿cuáles son las implicaciones humanas y sociales que trae? Es momento de pensar en ética tecnológica.

La experiencia del usuario –cómo la gente interactúa con las organizaciones con las que hacen negocios y cómo se sienten respecto a esas interacciones– fue el enfoque principal de una conferencia de tecnología en Boston. Pero no fue una reunión de usuarios de CRM o gente de producto. Era de Cloud Foundry, la arquitectura de Fuente abierta que subyace en las operaciones de negocios.

Conocí a Geri Jennings, ingeniero de software en CyberArk, con sede en Massachusetts, en la conferencia. La compañía de software de seguridad apuesta por el “diseño impulsado por la experiencia”. Antes de trabajar en cualquier cambio a un producto, ella y sus colegas crean un documento "XDD" que compila los detalles de cualquier nueva característica en la que están trabajando, quién usa el producto y qué significarán para los usuarios los cambios pendientes.

“Antes de hacer algún trabajo de ingeniería, todos tenemos que sentarnos y pensar sobre este documento”, dijo Jennings. “El trabajo que hacemos en nuestra compañía está muy impulsado por esa experiencia del usuario final desde el principio de cualquier proyecto”.

Pero solo porque las empresas están usando tecnología para retener clientes y ganar nuevos no significa que están haciendo lo que está bien para ellos como seres humanos. Como lo dijo Jennings: “Ciertamente puedes escuchar lo que están diciendo y aún así hacer cosas poco éticas”.

Conforme los titulares llevan noticias del caos que las plataformas tecnológicas pueden crear –el escándalo de Cambridge Analytica, en el cual la firma de consultoría política manipuló datos de usuarios de Facebook para influenciar votantes; noticias falsas esparciéndose como un virus en el sitio de redes sociales; y un sentido general de que demasiado tiempo de pantalla es algo malo para todos– la noción de la ética tecnológica ha tomado base, con los proveedores de tecnología siendo expuestos por no proteger adecuadamente la privacidad de las personas o por la venta de productos adictivos. Bravo, digo yo. El poder que tienen las empresas de tecnología es masivo, lo cual hace más crítica la discusión sobre cómo se usan los productos que ellas crean, y para qué los usan.

Un juramento hipocrático para la era digital

Mariesa Dale discutió la idea de que las compañías de tecnología necesitan construir sus productos con la salud humana en mente durante un panel de discusión en Cloud Foundry Summit. La gerente de diseño de producto de Pivotal Labs, la división de consultoría de Pivotal Software, durante la reunión, escribió "El juramento Hipocrático de los tecnólogos" una versión tecnológica del contrato original que requería que los médicos juraran que no le harían daño a los pacientes. El juramento de Dale hace que los desarrolladores de software y los ingenieros prometan respetar a los usuarios como personas, se esfuercen por influenciar vidas de forma positiva y piensen sobre las consecuencias de lo que sea que construyan.

Dale escribió el juramento después de trabajar en proyectos de gobierno que tenían “grandes resultados con consecuencias para la gente y el mundo; consecuencias de vida o muerte”.

Por ejemplo, ella creó una app que rastreaba el progreso de inmigrantes que se volvían ciudadanos de Estados Unidos. Una falla en el sistema podía poner en peligro el estado de solicitud de alguna persona. Otra app digería datos de vuelos que se presentaban en cabinas de aviones militares. Una entrada incorrecta allí podía resultar en “pilotos estrellándose o analistas teniendo que testificar frente al Congreso”.

Ella también vio a su propio hijo enganchado por la tecnología, y empezó a preocuparse. “Él es muy vulnerable ante esas cosas”, dijo.

Igual que lo son todos los demás, y las compañías de tecnología trabajan duro para hacer que así sea. Ellos construyen tecnología persuasiva –herramientas diseñadas para cambiar el comportamiento y actitudes de las personas– para mantenerlos pegados a sus gadgets, compartiendo fotos y viendo videos graciosos de animales.

Tome, por ejemplo, las redes sociales. En el Simposio Sloan CIO del MIT, Jason Jackson, profesor asistente de economía política y planificación urbana del MIT, cuestionó si estas poderosas plataformas están creando algún valor social o solo están aplicando alguna agenda.

Nuestra primera idea es que las redes sociales nos ayudarán a conectar con otros”, dijo Jackson durante un panel de discusión sobre el destino de los trabajadores humanos en un mundo lleno de máquinas inteligentes. “Pero también las entidades que tienen control sobre los datos y la forma en que los datos se usan pueden tener diferentes incentivos para cómo se usan”.

Ética tecnológica en acción

Incentivos como hacerse rico rápido, la avaricia o destruir la alianza occidental. ¿Qué sabemos realmente sobre la intención de los poderes que mueven las palancas de la tecnología? Al menos esto es claro: Hay gente trabajando para evitar un futuro distópico de zombis antisociales dependientes de la tecnología, e inculcar ética tecnológica en nuestro presente. Tristan Harris, ex especialista en ética de Google, es un opositor de los juegos mentales de Silicon Valley, y habla sobre los peligros de estar constantemente distraído por una avalancha de correos electrónicos, tuits y publicaciones en redes sociales.

Su Centro para Tecnología Humana aboga por una tecnología más ética “para proteger nuestras mentes de constantes distracciones, minimizar el tiempo de pantalla, proteger nuestro tiempo en relaciones y reemplazar el mercado de apps de la App Store que compiten por el uso con un mercado de herramientas que compiten para beneficiar nuestras vidas y la sociedad".

La startup Boundless Mind de Venice Beach, California, está tratando de construir ese tipo de mercado, según reportó Haley Sweetland Edwards en la revista Time. La compañía, dirigida por tecnólogos entrenados en neurociencia, no abandona la tecnología persuasiva, pero la usa para ayudar a construir aplicaciones que creen pueden ayudar a hacerle bien a las personas y a la sociedad. Por ejemplo, una app ayuda a los pacientes a manejar dolor agundo con la ayuda de un juego de realidad virtual.

"Ya sabemos cómo diseñar su cerebro para que sea un buen usuario de redes sociales", dijo Ramsay Brown, uno de los cofundadores, en el artículo. "¿Por qué no podemos diseñar su cerebro para que usted sea quien quiere ser?".

Acciones y consecuencias

En CyberArk, Jennings se siente bien con el software Conjur en el que trabaja para ayudar a los desarrolladores a asegurar el proceso de desarrollo, "porque estamos tratando de crear cosas que hagan menos probable que haya una brecha de datos desde una aplicación".

"¿En otros lugares se alienta a sus empleados a pensar en una imagen más amplia también, o la gente aprende en la escuela que eso es algo que tendrán que reflejar en sí mismos donde sea que estén? No lo sé, pero probablemente debería ser algo que la gente está reflexionando", dijo.

Jennings no estaba seguro sobre el futuro de la ética tecnológica o si alguna vez se podría elaborar una legislación para imponer algún tipo de estándares: La tecnología se está desarrollando demasiado rápido como para poder saber todavía. Pero ella tiene esperanza. Y escuchar eso de un tecnólogo es un buen comienzo.

"Realmente no comprendemos suficientemente bien cuáles serán las consecuencias de todo", dijo Jennings. "Pero creo que es alentador que haya más personas que están pensando en eso, que hay una conversación más amplia que está teniendo lugar sobre si es bueno o no que tengamos estas aplicaciones como lo hacemos".

Este artículo se actualizó por última vez en julio 2018

Profundice más

Inicie la conversación

Envíenme notificaciones cuando otros miembros comenten sobre este artículo.

Por favor cree un Nombre de usuario para poder comentar.

- ANUNCIOS POR GOOGLE

Close