Uso de IA como herramienta de vigilancia en redes sociales causa preocupación

Desde el advenimiento de la Inteligencia Artificial (IA), su papel ha sido objeto de controversia. En este caso, una página web denominada ‘Social Links’ ha desencadenado preocupaciones al emplear esta tecnología para examinar las publicaciones en redes sociales, catalogándolas como positivas, negativas o neutrales. Su objetivo es evaluar la controversia de los mensajes transmitidos en perfiles sociales.

Esta herramienta, accesible tanto en computadoras como en dispositivos móviles, está siendo utilizada por empresas para investigar la navegación, preferencias e incluso el tono de los comentarios emitidos en plataformas sociales.

En una conferencia de seguridad en París, ‘Social Links’ presentó cómo su tecnología puede determinar el estado de ánimo de los usuarios en base a sus comentarios en línea. Además, afirman tener la capacidad de identificar mensajes que podrían evolucionar hacia violencia física, lo que requeriría intervención por parte de las autoridades.

Un analista de ‘Social Links’, Bruno Alonso, explicó cómo utilizaron software para evaluar las reacciones de los usuarios ante una situación específica en España. Utilizando palabras clave y hashtags en publicaciones de Twitter, denominadas ‘X’, pudieron categorizar los sentimientos de los usuarios como violentos, neutrales o favorables.

El uso de esta tecnología ha generado polémica. Varios analistas han expresado su preocupación ante el aumento del monitoreo individual que este tipo de herramientas de inteligencia artificial podría desencadenar. Además, se teme que los usuarios se sientan observados en sus actividades en línea, dado que esta vigilancia automatizada no posee el discernimiento humano.

Es probable que otras empresas estén explorando IA para influir en las preferencias de las personas, limitando su libre albedrío en la selección de productos y servicios.

Este panorama podría conducir a una falta de transparencia en las redes sociales. Aunque se reconoce la presencia de cierta falta de autenticidad en las publicaciones, la capacidad de las herramientas de IA para descifrar las verdaderas intenciones de los usuarios plantea interrogantes sobre la credibilidad en línea.

En un mundo donde la tecnología se convierte en un observador omnipresente, la delicada línea entre el análisis de datos y la invasión a la privacidad se vuelve más difusa, poniendo de relieve la urgencia de un debate ético en torno al uso de la Inteligencia Artificial en la esfera pública.

Otras notas que también te pueden interesar:

Michelob ULTRA prepara una acción con IA y Realidad Aumentada tan innovadora que promete sorprender al mundo