Livros gerados por bots
Grandes empresas de e-commerce como a Amazon já têm um problema com bots capazes de gerar conteúdos como o ChatGPT: seus acervos estão cheios de livros gerados por bots.
Por que isso é um problema? Muitos desses livros são de baixa qualidade e gerados apenas como máquinas de ganhar dinheiro. É evidente que a qualidade pobre dos produtos não é uma característica da inteligência artificial, mas de pessoas que usam suas tecnologias apenas como um novo meio para fazer dinheiro fácil. Com isso, elas prejudicam consumidores e a reputação da área na totalidade.
Outro problema que tem se repetido com livros gerados por bots é o uso de nomes de autores verdadeiros para enganar possíveis leitores.
Detectando bots?
Mas agora, em função destes problemas, algumas startups voltadas para a detecção de inteligência artificial (Reality Defender, GPTZero e Winston AI) afirmam ter uma solução simples para ajudar os clientes: informar quando um livro foi gerado por bot. Ou seja, essas empresas dizem já terem tecnologias capazes de identificar se um livro foi criado com uso extensivo de bots. Mas não é claro, pelas informações liberadas, se isso é realmente possível.
Por enquanto, a gigante Amazon tem sido pressionada, assim como outras livrarias, a assumir parte da responsabilidade de ter que informar aos seus consumidores quais livros foram gerados por bots.
Em resposta a essa pressão, a Amazon tem limitado o número de livros de autores que publicam de forma autônoma (sem editora). Mas ela tem se mantido em silêncio sobre a possibilidade de já estar usando alguma tecnologia de detecção de bots. Para os céticos, porém, existem muitas dúvidas se essas tecnologias são de fato possíveis ou suficientemente acuradas para lidar com o cenário atual.
Informações obtidas no site Wired.
