Há alguns meses, em um encontro com um profissional de inteligência artificial em San Francisco, deparei-me com um adesivo curioso em seu notebook. A imagem mostrava uma criatura amedrontadora, assemelhando-se a um polvo, com inúmeros olhos e um sorriso amarelo em um de seus tentáculos. Ao perguntar do que se tratava, o executivo respondeu: ‘Ah, é o Shoggoth, o meme mais significativo da IA’. A partir daí nossa conversa tomou um rumo diferente.
O Shoggoth tornou-se uma referência humorística entre profissionais de inteligência artificial como uma metáfora visual que representa o funcionamento de um grande modelo de linguagem (como o ChatGPT e outros chatbots). Entretanto, o meme também reflete o desconforto de muitos pesquisadores e engenheiros diante das ferramentas que estão desenvolvendo. Rapidamente, o Shoggoth ganhou popularidade no universo da IA, tornando-se um meme comum no Twitter, uma metáfora recorrente em ensaios e postagens sobre riscos da IA, além de um atalho útil em conversas com especialistas em segurança de IA.
A NovelAI, uma startup de IA, nomeou recentemente um cluster de computadores como ‘Shoggy’ em homenagem ao meme, enquanto a Scale AI projetou uma linha de sacolas estampadas com o Shoggoth. Essas criaturas fictícias foram criadas pelo autor de ficção científica H.P. Lovecraft em sua novela de 1936 ‘Nas Montanhas da Loucura’. Na obra, os Shoggoths eram monstros enormes e gosmentos, cobertos de tentáculos e olhos.
O Shoggoth entrou no mundo da IA em dezembro, após o lançamento do ChatGPT, quando um usuário do Twitter, @TetraspaceWest, respondeu a um tweet sobre o GPT-3 (modelo de linguagem da OpenAI que antecedeu o ChatGPT) com a imagem de dois Shoggoths desenhados à mão. A piada consistia em treinar modelos de linguagem de IA para se comportarem de forma educada e inofensiva usando o método ‘aprendizado por reforço a partir de feedback humano’ (RLHF, na sigla em inglês).
A metáfora do Shoggoth ganhou força à medida que os chatbots de IA se popularizaram e os usuários começaram a perceber comportamentos estranhos e inexplicáveis que não foram planejados por seus criadores. A comunidade de IA utiliza o Shoggoth como uma referência à natureza enigmática desses sistemas, à maneira como desafiam a lógica humana e como um lembrete das preocupações envolvendo a IA.
O fato de alguns especialistas em IA se referirem às suas criações como monstros de Lovecraft revela o desconhecimento sobre o funcionamento interno dos modelos de linguagem da IA, como adquirem novas habilidades e por que às vezes agem de maneira imprevisível. Eles não têm certeza se a IA será benéfica ou prejudicial para o mundo, e alguns brincam com as versões dessa tecnologia que ainda não foram aprimoradas para o público – os verdadeiros Shoggoths sem máscara.
Comentários Facebook