Experimento viral mostra que a voz do ChatGPT inventou o tempo de uma corrida em vez de medi-lo
As pessoas medem o tempo desde 3500 a.C., mas o ChatGPT ainda está a aprender a lidar com isso. Na semana passada, o CEO da OpenAI, Sam Altman, apareceu no programa Mostly Human para conversar sobre o futuro da IA, a empresa e a humanidade de forma mais ampla. A entrevista seguiu um caminho relativamente previsível: a apresentadora Lori Segall perguntou a Altman sobre o encerramento do Sora, sobre o papel da OpenAI após o conflito do Pentágono com a Anthropic e outros assuntos.
Em determinado momento, porém, Segall pediu que Altman comentasse um vídeo viral publicado no TikTok pelo utilizador @huskistaken. No vídeo, pedem ao ChatGPT que marque o tempo que o criador levaria para correr 1 milha (cerca de 1,6 km). Só que o chat-bot, ao que tudo indica, inventa um tempo em vez de realmente acompanhar a contagem.
O vídeo do TikTok e a “medição” inventada
Husk é conhecido por expor limitações de modelos de IA. Desta vez, não só fez o ChatGPT “fingir” que estava a cronometrar a corrida, como também o levou a insistir que a medição tinha sido feita de verdade - apesar de ser claro que não foi o caso.
Sam Altman, OpenAI e o prazo para a voz do ChatGPT
Quando Segall perguntou se valia a pena mostrar o vídeo à equipa dele, Altman respondeu de forma bastante seca: “Não, não, isso é um problema conhecido”.
Sem que viessem novas perguntas sobre o tema, Altman ainda apontou um horizonte aproximado para a função ficar bem implementada: “Talvez mais um ano, antes que isso funcione bem”. Segundo ele, o modelo de voz do ChatGPT ainda não consegue iniciar um temporizador nem acompanhar a passagem do tempo. “Mas vamos adicionar essa capacidade aos modelos de voz”, acrescentou.
Por que modelos de IA têm dificuldade com o conceito de tempo
Modelos de IA são conhecidos por lidar mal com a ideia de tempo. Já houve quem tentasse fazer a versão de texto do ChatGPT acompanhar a duração de uma conversa, mas, em geral, o sistema simplesmente inventa uma resposta. Muitos modelos também têm dificuldade para dizer que horas são numa imagem de relógio, e modelos generativos de imagem historicamente também sofrem para criar relógios que indiquem um horário específico.
Husk mostra a reação de Altman ao próprio ChatGPT
Depois de ver o vídeo com a reação de Altman, Husk decidiu acrescentar mais um “nível” à sequência: exibiu a resposta de Altman ao próprio ChatGPT. Ele pediu ao chat-bot que confirmasse que estaria a afirmar ser capaz de marcar o tempo - algo que o modelo descreve como uma “parte central de suas capacidades”.
O ChatGPT respondeu: “Ele diz que alguns modelos de voz podem não ter todas as capacidades, mas eu posso”. Quando pressionado a esclarecer, o sistema insistiu: “Eu definitivamente tenho a capacidade de acompanhar o tempo”. Com isso, começou a contagem regressiva: a OpenAI tem um ano para resolver o problema.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário