LinkedIn está probando una nueva herramienta que busca ayudar a los usuarios a lidiar con el flujo de spam de baja calidad generado por herramientas de IA y que posteriormente aparece en sus feeds. Esta función permitiría a los miembros de LinkedIn reportar de forma privada el contenido y los comentarios que sospechen que han sido generados artificialmente, proporcionando así a la red social un valioso conjunto de datos de entrenamiento para mejorar sus capacidades de detección y, posteriormente, filtrar el contenido no deseado.
Este desarrollo se produce cuando LinkedIn se suma a la competencia para abordar el creciente problema que afecta a todo el entorno digital. Durante el último año, numerosos medios han informado de un aumento en el contenido que parece haber sido escrito por modelos de lenguaje de IA, lo que ha provocado que los feeds se llenen de textos genéricos o extrañamente vacíos. Para una plataforma de redes sociales profesional como LinkedIn, este problema resulta especialmente importante.
Cómo funciona la nueva opción de informes
Hari Srinivasan, director de producto de LinkedIn, anunció detalles sobre la prueba en la plataforma. Los usuarios pueden reportar una publicación o comentario sospechoso haciendo clic en el botón de tres puntos ubicado en la esquina superior derecha de la publicación o el comentario. Esta opción estará disponible para algunos usuarios de LinkedIn en los próximos días.
Haris Srinivasan habló abiertamente sobre el desafío que planteaba la actualización. Afirmó que el concepto de "slop" era complejo y difícil de definir universalmente, y que su definición seguía evolucionando. Esto significaba que los informes de los usuarios de LinkedIn ayudarían a la empresa a mejorar sus sistemas. Cada informe haría que el algoritmo fuera más preciso al proporcionar datos adicionales que le ayudarían a diferenciar entre el material de baja calidad generado artificialmente y el trabajo original.
La empresa también está tomando medidas para detectar contenido de baja calidad generado por IA. Según Haris Srinivasan, LinkedIn está trabajando en la mejora de sus herramientas para detectar contenido de baja calidad generado por IA y otros materiales inapropiados. La información recopilada a través de informes también ayudará a los modelos utilizados para detectar y filtrar contenido no deseado. Esto significa que la red social utiliza activamente esta información para optimizar sus operaciones.
Un pequeño empujón para los creadores
Uno de los aspectos más fascinantes de este experimento es lo que sucede tras las denuncias. LinkedIn planea notificar al autor de una publicación cuando su contenido haya sido denunciado. Srinivasan señala que la empresa intentará avisar a los usuarios mediante un panel de análisis que indique cuándo otros miembros de LinkedIn consideraron que una publicación era "poco auténtica o que utilizaba IA en exceso". Esto no significa que LinkedIn penalizará a los autores por usar inteligencia artificial (IA). Srinivasan recalcó que su objetivo es empoderar a los usuarios para que mejoren su contenido, especialmente a aquellos que desean perfeccionar su estilo al crear publicaciones con herramientas de IA. Si sus publicaciones fueran denunciadas, la información les ayudaría a identificar que el material que crearon no fue bien recibido por otros miembros de LinkedIn.
Otro punto crucial que señala Srinivasan es que muchos escritores y profesionales del marketing dependen de la plataforma para distribuir su trabajo. Por lo tanto, les preocupa la idea de depender exclusivamente de un sistema de IA para revisar el contenido de otros, incluyendo la detección de publicaciones artificiales o generadas por IA. El problema de este enfoque es que es propenso a errores, y las empresas deberían utilizar la inteligencia humana para complementar los análisis automatizados, incluyendo la detección de contenido generado por IA.
¿Por qué LinkedIn está reduciendo el uso de su propia herramienta de escritura con IA?
Lo más interesante de esta actualización, quizás, sea una idea que Srinivasan mencionó anteriormente en su publicación: LinkedIn eliminará una de sus funciones de IA propuestas, la herramienta para "mejorar tus publicaciones". En su lugar, la red social introducirá una función de corrección que permitirá a los usuarios corregir sus textos sin alterar su significado.
Srinivasan explicó el motivo de esta decisión, que, según él, se debe a la reticencia de los usuarios a utilizar la IA de LinkedIn para reescribir sus publicaciones. La plataforma se percibe como una red profesional donde las publicaciones deben reflejar ideas bien pensadas y elaboradas, no conversaciones informales ni divagaciones personales. Por ello, reescribir la idea original resulta indeseable. En consecuencia, en lugar de obligar a los usuarios a utilizar la IA de LinkedIn para crear nuevas versiones de sus publicaciones, la empresa ha decidido permitirles corregir sus ideas para que reflejen su intención y sean fácilmente comprensibles.
Esta decisión es relevante porque marca la primera vez que LinkedIn abandona la promoción de la IA generativa. De hecho, recientemente, la red social ha estado implementando activamente diversas funciones de IA, incluyendo herramientas para la solicitud de empleo y la publicidad, asistentes de redacción de artículos y publicaciones de LinkedIn, entre otras. Por lo tanto, retirar una versión de la IA implica reconocer que no cumplió con el propósito ni la satisfacción de sus usuarios.
El mayor problema de confianza que LinkedIn intenta resolver
Esta última actualización de LinkedIn se relaciona con la larga lucha del gigante de las redes sociales contra los bots y otras formas de actividad engañosa. Sus acciones se enmarcan dentro de sus esfuerzos anteriores para combatir los grupos de interacción fraudulentos, y también forman parte de la cruzada de LinkedIn contra el contenido y la interacción falsos en su red.
El problema de la mala calidad del contenido generado por la IA es especialmente urgente para LinkedIn, ya que esta red profesional se ha posicionado como un medio para la conexión y el networking profesional basado en la experiencia y el intercambio de conocimientos. Que la mayor parte del contenido de la plataforma sea generado por bots contradice el propósito mismo de la red profesional, puesto que la audiencia no podría distinguir entre la experiencia genuina y el texto generado por IA.
Por lo tanto, la decisión de permitir a los usuarios reportar fallos en la IA se alinea con el esfuerzo general de LinkedIn por verificar la autenticidad de sus usuarios. Al verificar recientemente a más de 100 millones de usuarios mediante una herramienta de verificación de terceros, LinkedIn ha dado un paso importante para garantizar que su plataforma sea utilizada por personas reales. Sin embargo, ser una persona auténtica no significa necesariamente que publique contenido real.
Si el contenido de un usuario en LinkedIn no es auténtico, tiene poca utilidad en la red profesional. La credibilidad de LinkedIn como la red social profesional de referencia se basa en la autenticidad de sus usuarios y su contenido. Por lo tanto, es lógico que la red profesional considere el contenido manipulado por la IA como una amenaza para su integridad y tome medidas para combatirlo.
Parte de una transformación más amplia del sector.
LinkedIn no es un caso aislado, ya que otras plataformas de redes sociales también han lidiado con el problema del spam generado por IA. Pinterest introdujo recientemente opciones para que los usuarios reduzcan la cantidad de contenido generado por IA en sus feeds y temas. Snapchat ha anunciado su intención de dejar de promover el spam generado por IA, mientras que TikTok ha lanzado iniciativas de alfabetización en IA para ayudar a sus usuarios a identificar el contenido generado por IA. Reddit, por su parte, ha revelado que decenas de millones de visualizaciones diarias en su plataforma son spam, gran parte del cual es generado por IA. X ha desmonetizado a ciertos creadores por difundir desinformación y usar deepfakes de IA.
En general, esta tendencia refleja una tendencia más amplia en la industria de las redes sociales, donde se reconoce la amenaza que el spam de IA representa para sus modelos de negocio. Durante gran parte del último año, la tendencia predominante en las redes sociales ha sido adoptar la IA generativa e integrarla en sus operaciones a todos los niveles, desde la mejora de productos existentes hasta el lanzamiento de productos de IA completamente nuevos. Sin embargo, la realidad ha demostrado que inundar las redes sociales con contenido de IA ha mermado la confianza de los usuarios.
Esto deja a la IA generativa en una posición inusualmente precaria, ya que gran parte de la industria se ha dado cuenta de que podría perjudicar a las mismas plataformas que estaban deseosas de adoptarla. Microsoft se encuentra en una situación particularmente incómoda, ya que sus inversiones en IA siguen dando frutos, pero la plataforma de redes sociales de su propiedad tiene que luchar contra los inconvenientes del spam generado por la IA.
Lo que esto significa en el futuro
Aún no está claro si otras plataformas seguirán el ejemplo e implementarán medidas similares para combatir el spam generado por IA. Sin embargo, cada vez es más evidente que las redes sociales adoptarán más medidas para combatirlo, dado que este se vuelve más frecuente y difícil de distinguir del spam humano. Para LinkedIn, el experimento con el botón de denuncia es un reconocimiento de que, a pesar de su entusiasmo general por la IA, esta red social profesional no puede permitir que la IA socave su autenticidad.
Por ahora, el botón de denuncia es solo un experimento, y aún no está claro hasta dónde llegará LinkedIn en su cruzada contra el spam generado por IA. Sin embargo, la mera introducción de este botón tiene implicaciones significativas para el futuro de las redes sociales y la creación de contenido en general.
Preguntas frecuentes
P1: ¿Qué es esta nueva función de informes de errores de LinkedIn basada en IA?
Se trata de una función de prueba que permite a los miembros denunciar publicaciones y comentarios que sospechen que fueron creados con la ayuda de inteligencia artificial. Está oculta tras el menú de tres puntos de la publicación o comentario.
P2: ¿Quién reveló esta actualización?
Esta actualización fue anunciada por el director de producto de LinkedIn, Hari Srinivasan, en la propia plataforma. Explicó cómo funciona la opción de denuncia y por qué decidieron implementarla.
P3: ¿Los creadores de publicaciones con asistencia de IA estarán al tanto de las quejas?
Según Srinivasan, LinkedIn probará "una notificación privada dentro del panel de análisis" para informar a los usuarios de que su publicación "parecía poco auténtica o dependía demasiado del texto generado por IA".
P4: ¿Significa esto que LinkedIn prohibirá el uso de la escritura asistida por IA?
En realidad no. Srinivasan aclaró que no pretenden impedir que la gente utilice la IA para moldear sus ideas. Su objetivo son las publicaciones que parecen poco auténticas y que abusan de la ayuda de la IA.
P5: ¿Significa esto el fin de la función "mejorar tu publicación" de LinkedIn?
Sí, así es. Parece que LinkedIn está eliminando la función que permitía a los usuarios perfeccionar sus publicaciones con la ayuda de la IA. En su lugar, contarán con una herramienta de corrección que mejorará la gramática y la claridad de las publicaciones sin alterar el tono ni el significado.
P6: ¿Por qué LinkedIn está haciendo esto ahora?
Esta medida busca garantizar a los usuarios que la autenticidad de sus publicaciones no se ve afectada por la presencia de contenido generado por IA en la plataforma. La razón es simple: el prestigio de LinkedIn se basa en el contenido profesional creado por personas reales.
P7: ¿Otras plataformas de redes sociales están haciendo cosas similares?
Sí, efectivamente. Pinterest, Snapchat, TikTok, Reddit y X han anunciado medidas similares para combatir el auge del contenido generado por inteligencia artificial.
P8: ¿Cómo se relaciona esto con el programa de verificación de LinkedIn?
Hasta la fecha, más de 100 millones de usuarios de LinkedIn han sido verificados como personas reales mediante la verificación oficial de terceros. Combatir la proliferación de herramientas de IA es otra forma que tiene LinkedIn de garantizar que solo el contenido creado por personas reales impulse su plataforma.
P9: ¿Significa esto que esta nueva función de informes está disponible para todos los usuarios de LinkedIn?
Todavía no. Como mencionó Srinivasan, esta función se está implementando a modo de prueba, lo que significa que no todos los usuarios verán esta opción.
P10: Entonces, ¿qué pasará con los profesionales del marketing y los creadores de contenido?
Sus publicaciones cuidadosamente redactadas para promocionar productos y servicios probablemente serán penalizadas. Si quieren evitar esta situación, deberían considerar perfeccionar sus textos con redactores humanos para que sus publicaciones parezcan más auténticas y no depender demasiado de la IA.
