O LinkedIn está testando uma nova ferramenta que visa ajudar os usuários a lidar com o grande volume de spam de baixa qualidade gerado por ferramentas de IA e que, consequentemente, aparece nos feeds dos usuários. O recurso proposto permitiria que os membros do LinkedIn denunciassem, de forma privada, conteúdo e comentários que suspeitassem ser gerados artificialmente, fornecendo assim à rede social um valioso conjunto de dados de treinamento para aprimorar as capacidades de detecção e, consequentemente, filtrar o conteúdo indesejável.
A novidade surge no momento em que o LinkedIn se junta à competição para enfrentar o crescente problema que afeta todo o espaço online. Ao longo do último ano, diversos veículos de comunicação relataram um aumento no conteúdo que parece ter sido escrito por modelos de linguagem de IA, resultando em feeds repletos de textos genéricos ou estranhamente superficiais. Para uma plataforma de mídia social profissional como o LinkedIn, a questão parece especialmente relevante.
Como funciona a nova opção de relatório
O diretor de produtos do LinkedIn, Hari Srinivasan, anunciou detalhes sobre o teste na plataforma de mídia social. Os usuários poderão denunciar uma publicação ou comentário suspeito clicando no botão com três pontos no canto superior direito da publicação ou seção de comentários. A opção estará disponível para alguns usuários do LinkedIn nos próximos dias.
Haris Srinivasan falou abertamente sobre o desafio apresentado pela atualização. Ele afirmou que a falta de precisão era um conceito complexo, difícil de definir universalmente, e que sua definição continuava a evoluir. Isso significava que os relatos dos usuários do LinkedIn ajudariam a empresa a aprimorar seus sistemas. Cada relato tornaria o algoritmo mais preciso, fornecendo dados adicionais que o ajudariam a diferenciar entre material de baixa qualidade, gerado artificialmente, e trabalhos originais.
A empresa também está tomando medidas para detectar conteúdo gerado por IA de forma inadequada por conta própria. De acordo com Haris Srinivasan, o LinkedIn está trabalhando no aprimoramento de suas ferramentas para detectar conteúdo gerado por IA de baixa qualidade e outros materiais indesejáveis. As informações coletadas por meio de relatórios também auxiliarão os modelos usados para detectar e filtrar conteúdo inadequado. Isso significa que a rede social utiliza ativamente as informações para melhorar suas operações.
Um incentivo pessoal para criadores.
Um dos aspectos mais fascinantes deste experimento é o que acontece do outro lado das denúncias. O LinkedIn planeja informar o autor de uma publicação quando seu conteúdo for denunciado. Srinivasan observa que a empresa tentará notificar os usuários por meio de um painel de análise que indicará quando outros membros do LinkedIn considerarem uma publicação "inautêntica ou que tenha usado inteligência artificial em excesso". Isso não significa que o LinkedIn penalizará os autores por usarem inteligência artificial (IA). Srinivasan enfatizou que o objetivo é capacitar os usuários a aprimorarem seu conteúdo, especialmente aqueles que desejam refinar sua linguagem ao criar uma publicação usando ferramentas de IA. Caso suas publicações sejam denunciadas, a informação os ajudará a identificar que o material criado não foi bem recebido por outros membros do LinkedIn.
Outro ponto crucial levantado por Srinivasan é que muitos escritores e profissionais de marketing dependem da plataforma para distribuir seus trabalhos. Portanto, eles se preocupam com a ideia de depender exclusivamente de um sistema de IA para revisar o conteúdo de outras pessoas, incluindo a detecção de publicações artificiais ou geradas por IA. O problema dessa abordagem é que ela é propensa a erros, e as empresas deveriam usar a inteligência humana para complementar as análises computadorizadas, inclusive na detecção de conteúdo gerado por IA.
Por que o LinkedIn está reduzindo o uso de sua própria ferramenta de escrita com IA?
Talvez o aspecto mais interessante dessa atualização seja uma ideia mencionada anteriormente na publicação de Srinivasan: o LinkedIn está descontinuando um de seus recursos de IA propostos, a ferramenta "aprimore sua publicação". Em vez disso, a rede social lançará um recurso de revisão ortográfica, que permitirá aos usuários corrigir seus textos sem alterar o significado.
Srinivasan destacou o raciocínio por trás dessa decisão, que, segundo ele, foi ditada pela relutância dos usuários em usar a IA do LinkedIn para reescrever suas postagens. A plataforma é percebida como uma rede profissional onde as postagens devem refletir uma formulação de ideias cuidadosa e bem pensada, e não conversas descuidadas ou desabafos sobre si mesmo. Com isso em mente, reescrever a ideia original é indesejável. Portanto, em vez de forçar os usuários a utilizar a IA do LinkedIn para criar novas versões de suas postagens, a empresa decidiu permitir que os usuários corrijam suas ideias para que correspondam à sua intenção e sejam facilmente compreendidas.
Essa decisão é notável porque marca a primeira vez que o LinkedIn deixa de promover inteligência artificial generativa. De fato, recentemente, a rede social vinha implementando ativamente diversos recursos de IA, incluindo ferramentas de candidatura a vagas e anúncios de emprego, assistentes de IA para redação de posts e artigos no LinkedIn, entre outros. Assim, descontinuar uma versão de IA significa reconhecer que ela não atendeu às expectativas ou à satisfação dos usuários.
O maior problema de confiança que o LinkedIn está tentando resolver.
Esta atualização recente do LinkedIn está relacionada à longa batalha da gigante das redes sociais contra bots e outras formas de atividades enganosas. Suas ações se enquadram nos mesmos esforços anteriores para combater os grupos de engajamento e também fazem parte da cruzada do LinkedIn contra conteúdo e interação inautênticos em sua rede.
A questão da imprecisão da IA é particularmente urgente para o LinkedIn, visto que a rede profissional se posicionou como um meio de conexão e networking profissional baseado na troca de conhecimento e experiência. Ter a maior parte do conteúdo da plataforma gerado por bots contraria o próprio propósito da rede profissional, já que o público não seria capaz de distinguir entre conhecimento genuíno e texto gerado por IA.
Assim, a decisão de permitir que os usuários denunciem erros de IA está alinhada ao esforço mais amplo do LinkedIn para verificar a autenticidade de seus usuários. Ao verificar recentemente mais de 100 milhões de usuários por meio de uma ferramenta de verificação de terceiros, o LinkedIn deu um passo importante para garantir que sua plataforma seja usada por pessoas reais. No entanto, pessoas autênticas não significam necessariamente que elas publiquem conteúdo real.
Se o conteúdo de um usuário no LinkedIn não for genuíno, ele terá pouca utilidade na rede profissional. A credibilidade do LinkedIn como a principal rede social profissional depende da autenticidade de seus usuários e do conteúdo que eles publicam. Portanto, é lógico que a rede profissional denuncie erros de inteligência artificial como uma ameaça à sua integridade e tome medidas para combatê-los.
Parte de uma mudança mais ampla no setor.
O LinkedIn não é um caso isolado, já que outras plataformas de mídia social também têm enfrentado o problema do spam gerado por IA. O Pinterest recentemente introduziu opções para que os usuários reduzam a quantidade de conteúdo gerado por IA em seus feeds e tópicos. O Snapchat anunciou sua intenção de parar de promover spam gerado por IA, enquanto o TikTok lançou iniciativas de alfabetização em IA para ajudar seus usuários a identificar conteúdo gerado por IA. O Reddit, por sua vez, revelou que dezenas de milhões de visualizações por dia em sua plataforma são spam, grande parte do qual gerado por IA. O X desmonetizou certos criadores por espalharem desinformação e usarem deepfakes de IA.
De modo geral, essa tendência reflete uma tendência mais ampla do setor, na qual as plataformas de mídia social reconhecem a ameaça que o spam de IA representa para seus modelos de negócios. Durante grande parte do último ano, a tendência predominante nas mídias sociais tem sido a adoção da IA generativa e sua integração em todas as operações, desde o aprimoramento de produtos existentes com IA até o lançamento de produtos de IA totalmente novos. No entanto, a realidade mostrou que inundar os feeds de mídias sociais com conteúdo de IA minou a confiança dos usuários.
Isso coloca a IA generativa em uma posição excepcionalmente precária, já que grande parte da indústria percebeu que ela pode prejudicar justamente as plataformas que estavam ansiosas para adotá-la. A Microsoft se encontra em uma situação particularmente delicada, pois seus investimentos em IA continuam dando frutos, mas a plataforma de mídia social que ela possui precisa combater os efeitos negativos do spam gerado por IA.
O que isso significa daqui para frente
Ainda não está claro se outras plataformas seguirão o exemplo e introduzirão medidas semelhantes para lidar com spam gerado por IA. No entanto, está cada vez mais evidente que as plataformas de mídia social adotarão mais e mais medidas para combater o spam gerado por IA, à medida que ele se torna mais prevalente e mais difícil de distinguir do spam humano. Para o LinkedIn, o experimento com o botão de denúncia é um reconhecimento de que, apesar do seu entusiasmo geral pela IA, a rede social profissional não pode permitir que a IA prejudique sua autenticidade.
Pelo menos por enquanto, o botão de denúncia é apenas um experimento, e ainda não está claro até onde o LinkedIn irá com sua cruzada contra o spam de IA. No entanto, a simples introdução do botão de denúncia tem implicações significativas para o futuro das redes sociais e da criação de conteúdo em geral.
Perguntas frequentes
P1: O que é esse novo recurso de denúncia de erros do LinkedIn AI?
É uma funcionalidade experimental que permite aos membros denunciar publicações e comentários que suspeitem terem sido criados com a ajuda de IA. Ela está oculta atrás do menu de três pontos na publicação/comentário.
P2: Quem revelou essa atualização?
Essa atualização foi revelada pelo Diretor de Produtos do LinkedIn, Hari Srinivasan, na própria plataforma de mídia social. Ele explicou como funciona a opção de denúncia e por que decidiram implementá-la.
P3: Os criadores de publicações com auxílio de IA ficarão sabendo das reclamações?
Segundo Srinivasan, o LinkedIn testará "uma notificação privada dentro do painel de análise do usuário" para informar que suas publicações "pareciam pouco autênticas ou excessivamente dependentes de texto gerado por IA".
Q4: Isso significa que o LinkedIn vai proibir o uso de escrita assistida por IA?
Na verdade, não. Srinivasan esclareceu que eles não planejam impedir que as pessoas usem IA para ajudá-las a moldar seus pensamentos. Eles estão focando em publicações que parecem inautênticas e que dependem demais da ajuda da IA.
P5: Isso significa o fim do recurso "aprimorar sua publicação" do LinkedIn?
Sim, é verdade. Parece que o LinkedIn está cancelando o recurso que permitia aos usuários aprimorar suas publicações com a ajuda de IA. Em vez disso, eles receberão uma ferramenta de revisão ortográfica que corrigirá a gramática e a clareza das publicações sem alterar o tom e o significado.
P6: Por que o LinkedIn está fazendo isso agora?
Eles estão tomando essa medida para garantir aos usuários que a autenticidade de suas publicações não é afetada pela presença de conteúdo gerado por inteligência artificial na plataforma. O motivo é simples: o valor da marca LinkedIn depende do conteúdo profissional criado por pessoas reais.
Q7: Outras plataformas de redes sociais estão fazendo coisas semelhantes?
Sim, de fato. Pinterest, Snapchat, TikTok, Reddit e X anunciaram medidas semelhantes para combater o aumento do conteúdo gerado por IA.
P8: Como isso se relaciona com o programa de verificação do LinkedIn?
Até o momento, mais de 100 milhões de usuários do LinkedIn foram verificados como pessoas reais por meio de verificação oficial de terceiros. Combater a proliferação de ferramentas de IA é outra maneira pela qual o LinkedIn garante que apenas o conteúdo produzido por pessoas reais fortaleça sua plataforma.
P9: Isso significa que esse novo recurso de denúncia está disponível para todos os usuários do LinkedIn?
Ainda não. Como mencionado por Srinivasan, essa função está sendo implementada em fase de testes, o que significa que nem todos os usuários verão essa opção.
Q10: Então, o que acontecerá com os profissionais de marketing e criadores de conteúdo?
É muito provável que suas postagens, cuidadosamente elaboradas para promover produtos e serviços, sejam penalizadas. Para evitar essa situação, devem considerar a possibilidade de revisar seus textos com redatores humanos, a fim de torná-los mais autênticos e não depender excessivamente de inteligência artificial.
