OpenAI faz experiências para dar ao ChatGPT uma memória de conversação de longo prazo

Na terça-feira, OpenAI anunciado que está experimentando adicionar uma forma de memória de longo prazo ao ChatGPT que permitirá lembrar detalhes entre conversas. Você pode pedir ao ChatGPT para lembrar de algo, ver o que lembra e pedir para esquecer. Atualmente, ele está disponível apenas para teste para um pequeno número de usuários do ChatGPT.

Até agora, os grandes modelos de linguagem normalmente usavam dois tipos de memória: uma incorporada ao modelo de IA durante o processo de treinamento (antes da implantação) e uma memória no contexto (o histórico da conversa) que persiste durante a sessão. Normalmente, o ChatGPT esquece o que você disse durante uma conversa assim que você inicia uma nova sessão.

Vários projetos experimentaram dar aos LLMs uma memória que persiste além de uma janela de contexto. (A janela de contexto é o limite rígido para o número de tokens que o LLM pode processar de uma vez.) As técnicas incluem gerenciando dinamicamente o histórico de contextocompactando o histórico anterior por meio de resumo, links para bancos de dados vetoriais que armazenam informações externamente ou simplesmente injetando informações periodicamente em um prompt do sistema (as instruções que o ChatGPT recebe no início de cada chat).

A OpenAI não explicou qual técnica usa aqui, mas a implementação nos lembra as Instruções Personalizadas, um recurso que a OpenAI introduziu em julho de 2023 que permite aos usuários adicionar adições personalizadas ao prompt do sistema ChatGPT para alterar seu comportamento.

As possíveis aplicações para o recurso de memória fornecido pelo OpenAI incluem explicar como você prefere que suas anotações de reunião sejam formatadas, dizer que você administra uma cafeteria e fazer com que o ChatGPT presuma que é disso que você está falando, mantendo informações sobre seu filho que adora águas-vivas para que pode gerar gráficos relevantes e lembrar preferências para designs de planos de aula do jardim de infância.

Além disso, OpenAI diz que as memórias podem ajudar os assinantes do ChatGPT Enterprise e Team a trabalharem melhor juntos, uma vez que as memórias compartilhadas da equipe podem lembrar preferências específicas de formatação de documentos ou quais estruturas de programação sua equipe usa. E a OpenAI planeja trazer memórias para GPTs em breve, com cada GPT tendo seus próprios recursos de memória isolados.

Controle de memória

Obviamente, qualquer tendência para lembrar informações traz implicações de privacidade. Você já deve saber que o envio de informações ao OpenAI para processamento em servidores remotos introduz a possibilidade de vazamentos de privacidade e que o OpenAI treina modelos de IA em informações fornecidas pelo usuário por padrão, a menos que o histórico de conversas esteja desabilitado ou você esteja usando uma conta Enterprise ou Team.

Nesse sentido, a OpenAI diz que suas memórias salvas também estão sujeitas ao uso de treinamento da OpenAI, a menos que você atenda aos critérios listados acima. Ainda assim, o recurso de memória pode ser desligado completamente. Além disso, a empresa afirma: “Estamos tomando medidas para avaliar e mitigar preconceitos e evitar que o ChatGPT se lembre proativamente de informações confidenciais, como detalhes de sua saúde – a menos que você solicite explicitamente”.

Os usuários também poderão controlar o que o ChatGPT lembra usando uma interface “Gerenciar memória” que lista os itens da memória. “As memórias do ChatGPT evoluem com suas interações e não estão vinculadas a conversas específicas”, diz OpenAI. “Excluir um bate-papo não apaga suas memórias; você deve excluir a própria memória.”

Os recursos de memória do ChatGPT não estão disponíveis atualmente para todas as contas ChatGPT, portanto, ainda não os experimentamos. O acesso durante este período de teste parece ser aleatório entre contas ChatGPT (gratuitas e pagas) por enquanto. “Estamos lançando esta semana para uma pequena parte dos usuários do ChatGPT gratuito e Plus para saber como ele é útil”, escreve OpenAI. “Compartilharemos planos para uma implementação mais ampla em breve.”