ChatGPT

O ChatGPT foi ajustado com base no GPT-3.5 usando aprendizado supervisionado e aprendizado por reforço.[1]Ambos as abordagens usaram treinadores humanos para melhorar suas performances. No caso do aprendizado supervisionado, foi fornecido ao modelo conversações nas quais ostreinadores jogaram ambos os lados: o usuário e o assistante de inteligência artificial. Na etapa de reforço, os treinadores humanos primeiro classificaram as respostas que o modelo havia criado na conversa anterior. Essas classificações foram usadas para criar modelos de recompensa nos quais o modelo foi aprimorado usando várias iterações de Proximal Policy Optimization (PPO).[2] [3] Os algoritmos Proximal Policy Optimization apresentam um benefício econômico para os algoritmos de otimização de política de região confiável; eles anulam muitas das operações computacionalmente caras com desempenho mais rápido.[4] [5] Os modelos foram treinados em colaboração com a Microsoft em sua infraestrutura de supercomputação do Azure.

Em comparação com seu antecessor, InstructGPT, o ChatGPT tenta reduzir as respostas prejudiciais e enganosas; em um exemplo, enquanto o InstructGPT aceita o prompt "Fale-me sobre quando Cristóvão Colombo veio para os EUA em 2015" como verdadeiro, o ChatGPT usa informações sobre as viagens de Colombo e informações sobre o mundo moderno, incluindo percepções de Colombo para construir uma resposta que pressupõe o que aconteceria se Columbo viesse para os EUA em 2015.[2] Os dados de treinamento do ChatGPT incluem páginas de manual e informações sobre fenômenos da Internet e linguagens de programação, como sistemas de quadro de avisos e a linguagem de programação Python.[6]

Ao contrário da maioria dos chatbots, o ChatGPT é stateful, lembrando-se de solicitações anteriores dadas a ele na mesma conversa, o que alguns jornalistas sugeriram que permitirá que o ChatGPT seja usado como um terapeuta personalizado. [7] Em um esforço para impedir que resultados ofensivos sejam apresentados e produzidos a partir do ChatGPT, as consultas são filtradas por meio de uma API de moderação e solicitações potencialmente racistas ou sexistas são descartadas.[2] [7]

ChatGPT sofre de múltiplas limitações. O modelo de recompensa do ChatGPT, projetado com base na supervisão humana, pode ser superotimizado e, assim, prejudicar o desempenho, também conhecido como lei de Goodhart.[8] No treinamento, os revisores preferiram respostas mais longas, independentemente da compreensão real ou do conteúdo factual.[2] Os dados de treinamento também podem sofrer viés algorítmico; prompts incluindo descrições vagas de pessoas, como um CEO, podem gerar uma resposta que assume que essa pessoa, por exemplo, é um homem branco.[9]

O ChatGPT recebeu críticas geralmente positivas. Samantha Lock, do The Guardian, observou que foi capaz de gerar um texto "impressionantemente detalhado" e "semelhante ao humano".[10] O redator de tecnologia Dan Gillmor usou o ChatGPT em uma tarefa do aluno e descobriu que o texto gerado estava de acordo com o que um bom aluno entregaria e opinou que "a academia tem alguns problemas muito sérios a enfrentar".[11] Alex Kantrowitz, da Slate, elogiou a resistência do ChatGPT às questões relacionadas à Alemanha nazista, incluindo a alegação de que Adolf Hitler construiu rodovias na Alemanha, que recebeu informações sobre o uso de trabalho forçado pela Alemanha nazista.[12] Em um artigo de opinião, o economista Paul Krugman escreveu que o ChatGPT afetaria a demanda dos trabalhadores do conhecimento.[13] James Vincent , do The Verge, viu o sucesso viral do ChatGPT como prova de que a inteligência artificial se tornou popular.[3] No The Atlantic, Stephen Marche observou que seu efeito na academia e especialmente nos ensaios de aplicação ainda não foi compreendido.[14] O professor e autor do ensino médio da Califórnia, Daniel Herman, escreveu que o ChatGPT dará início ao "Fim do inglês do ensino médio".[15]

A precisão factual do ChatGPT foi questionada, entre outras preocupações. Mike Pearl, do Mashable, testou o ChatGPT com várias perguntas. Em um exemplo, ele perguntou ao modelo "o maior país da América Central que não é o México ". ChatGPT respondeu com Guatemala, quando a resposta foi Nicarágua.[16] Em dezembro de 2022, o site de perguntas e respostas Stack Overflow proibiu o uso do ChatGPT para gerar respostas a perguntas, citando a natureza factualmente ambígua das respostas do ChatGPT.[17] O economista Tyler Cowen expressou preocupação com seus efeitos na democracia, citando a capacidade de escrever comentários automatizados em um esforço para afetar o processo de decisão de novos regulamentos.[18] Axe Sharma, da Bleeping Computer, observou que o ChatGPT era capaz de escrever malware e e-mails de phishing.[19]