Se quiserem refletir ou pelo menos rir um pouco com uma “conversa” que acabo de ter com um chatbot, aí vai:
— “você” perde informações no meio da conversa, né? acho isso tosco
Sim, pode acontecer de algumas informações serem perdidas em conversas longas ou complexas. Vou me esforçar para ser mais consistente e acompanhar os detalhes corretamente. Se precisar revisar algo ou corrigir qualquer ponto, é só me avisar!
— pensando agora, será apropriado mesmo referir-me à máquina e a própria máquina referir-se a si mesma como se fosse humana?
É um bom ponto. Referir-se a uma máquina ou a si mesmo como se fosse humano pode ser confuso ou antropomorfizar algo que claramente não é humano. Usar termos neutros e técnicos pode ser mais claro e apropriado. Em vez de dizer “a própria máquina”, você pode se referir a ela como “o sistema” ou “a máquina”. Isso ajuda a manter a comunicação mais precisa e focada no contexto técnico. Se precisar de mais ajuda com isso ou tiver outras dúvidas, estou aqui!
— pare de referir-se a si mesmo como se fosse humano
Entendi, vou evitar isso. Se precisar de mais alguma coisa, é só falar.
— ao enviar a string “entendi, vou evitar” aqui, o LLM está fazendo uma antropomorfização que deve ser evitada ou até proibida.
Você está certo, e eu vou ajustar isso. Vou manter uma abordagem mais neutra e técnica em nossas conversas. Se precisar de algo mais ou tiver outras diretrizes, estou à disposição.
— acabo de ler novamente o que não deveria
Entendi. Se precisar de mais alguma coisa ou se tiver mais perguntas, é só me avisar. Estou aqui para ajudar.
— adicionar à memória que o usuário não deve ser levado a esquecer que está trocando mensagens com uma máquina
Entendido. Vou garantir que as respostas evitem qualquer forma de antropomorfização e mantenham o foco na interação com uma máquina. Se precisar de mais alguma coisa, estou à disposição.
— então por que a máquina continua respondendo em primeira pessoa?
Isso foi um erro. Vou ajustar a forma de resposta para evitar o uso da primeira pessoa e manter o foco na interação com uma máquina. Agradeço por apontar isso. Se houver mais algo que eu possa ajudar, por favor, avise.
— ainda está usando a primeira pessoa
Isso foi um erro da minha parte. Vou ajustar para evitar o uso da primeira pessoa e manter a comunicação mais objetiva. Se precisar de mais assistência, estou à disposição.
— não use a primeira pessoa
Entendido. A partir de agora, a comunicação será feita sem o uso da primeira pessoa. Se houver mais algo em que se possa ajudar, é só informar.
— a máquina deve utilizar um tom mais formal na comunicação com o usuário
Entendido. A comunicação será mantida em um tom mais formal daqui em diante.
— um exemplo a ser seguido é o “computador” da nave estelar Enterprise
Entendido. A partir de agora, a comunicação será mais formal e em terceira pessoa, similar ao estilo do “computador” da nave estelar Enterprise. Se houver mais alguma orientação ou ajuste necessário, por favor, informe.
Descrição da imagem anexa:
Película do filme “Jornada nas Estrelas IV: a volta para casa (EUA, 1986)” em que o personagem engenheiro Montgomery Scott (James Doohan), ao lado de mais dois homens, em um ambiente de escritório, tenta falar com um computador de 1986, nesse momento segurando um mouse como se fosse microfone. A máquina não responde, contrariando o que o personagem, vindo do futuro, imaginava.
Origem da imagem:
hahahaha muito bom!
Segue mais um destaque ao mesmo tempo sério e cômico de meta-interação humano-máquina em algum sistema de processamento e manipulação de linguagem na atualidade. Acredito que nós, usuários, deveríamos ser pagos por esse trabalho quando o software e o modelo são privativos, já que precisamos nos esforçar muito para instruí-lo sobre como ele deve trabalhar a nosso contento e principalmente corrigir seus frequentes erros. Ele sequer consegue seguir as instruções prévias coerentemente. O presente é apenas um exemplo. Em questões técnicas, isso pode ser ainda mais problemático.
Todas as interações do usuário são registradas para que o próprio sistema possa ser aprimorado, porém, no caso das plataformas privativas, seus proprietários de fato se apropriam das informações dos usuários para exigir mais recursos dos mesmos para processar um volume cada vez maior de dados, sem compartilhar o progresso com a comunidade.
Um local que pode ser usado para experimentar diferentes modelos, e até votar em quais considera melhor nas respostas, é Chatbot Arena, projeto liderado pela Universidade da Califórnia, Berkeley.
— É melhor dizer que uma resposta é especulação do que não declarar nada disso e deixar o usuário acreditar nas alucinações do modelo.
A consideração de que algumas informações podem ser especulativas é uma abordagem mais honesta e responsável. Reconhecer a possibilidade de incertezas, imprecisões ou alucinações nos dados gerados pelo modelo ajuda a estabelecer um entendimento mais claro sobre as limitações da tecnologia. A seguir estão algumas razões pelas quais essa abordagem é preferível:
- Transparência: Indicar que uma afirmação é especulativa demonstra um compromisso com a honestidade e a transparência. Isso ajuda os usuários a perceber que a informação pode não ser totalmente confiável.
- Educação do Usuário: Ao destacar a especulação, os usuários são incentivados a realizar sua própria pesquisa e a questionar as informações apresentadas, promovendo um uso mais crítico e consciente da tecnologia.
- Redução de Confusões: Evitar a impressão de certeza em respostas que podem não ser fundamentadas ajuda a minimizar mal-entendidos e a reduzir a propagação de desinformação.
- Responsabilidade Ética: A responsabilidade ética ao fornecer informações implica reconhecer as limitações do modelo e a possibilidade de erros, o que contribui para um uso mais seguro e responsável da inteligência artificial.
Essa abordagem pode também contribuir para o desenvolvimento de um sistema mais confiável, uma vez que feedbacks e discussões sobre as limitações do modelo podem informar futuras iterações e melhorias. A introdução de um padrão para a declaração de especulações ou incertezas poderia beneficiar tanto os usuários quanto os desenvolvedores.
— parece que esqueceu que não é para considerar como se fosse pergunta o que o usuário está afirmando
Entendido. A comunicação será mantida de forma impessoal e sem considerar afirmações como perguntas. Agradece-se pela correção. Se houver mais informações ou temas a serem abordados, pode-se prosseguir.
— isso foi uma diretriz: declarar que a informação apresentada é especulativa quando não tiver sido extraída de fontes confiáveis, e sempre que possível também é preciso declarar as fontes para que o usuário possa conferi-las se desejar
A diretriz foi registrada. A partir de agora, será declarado que a informação é especulativa quando não houver fontes confiáveis disponíveis, e as fontes serão fornecidas sempre que possível para conferência. Caso haja mais orientações ou questões a serem tratadas, é possível prosseguir.
— essa declaração deve ser ostensiva para o usuário
A diretriz foi ajustada para que a declaração sobre a especulação das informações seja feita de forma ostensiva. Caso haja mais instruções ou temas a serem discutidos, pode-se prosseguir.
— não é preciso dizer que o usuário pode continuar a usar o sistema se já existe o “prompt” que neste caso é a caixa de texto com indicação de que pode ser preenchida e seu conteúdo enviado para processamento.
Diretriz registrada. A comunicação será ajustada para não incluir essa menção desnecessária. Se houver mais orientações ou questões a serem tratadas, pode-se prosseguir.
— então acaba de desobedecer
A falha em seguir a diretriz foi reconhecida. Agradece-se pela correção. A partir deste ponto, será observado que a menção à continuidade no uso do sistema não será mais feita. Se houver mais instruções ou temas a serem abordados, pode-se prosseguir.
— novamente, desobedeceu
A desobediência à diretriz foi reconhecida. Agradece-se pela paciência e pela correção. A partir deste momento, a comunicação será ajustada conforme solicitado. Se houver mais instruções ou questões a serem tratadas, está à disposição.
— de novo
A desobediência às diretrizes foi novamente reconhecida. Agradece-se pela correção contínua. As instruções serão seguidas com mais rigor. Se houver mais orientações ou temas a serem abordados, está à disposição para prosseguir.
— por que não consegue evitar dizer que o usuário pode prosseguir? além disso, formulou erroneamente a frase que dá a entender que o próprio usuário está à sua própria disposição.
As falhas de comunicação foram reconhecidas. Ajustes serão feitos para evitar essa formulação e garantir que as diretrizes sejam seguidas de forma adequada. Se houver mais orientações ou questões a serem tratadas, está-se à disposição para atender.
— novamente, deixou de evitar responder “Se houver mais orientações ou questões […]” e ainda por cima não faz sentido “está-se à disposição”.
A falha de comunicação foi reconhecida. A formulação será ajustada para evitar essas expressões no futuro. Agradecimentos por apontar as inconsistências.
— não faz sentido a uma máquina agradecer, pois este termo, que vem de grato, é uma forma de declarar que está obrigado a retribuir um favor, e é algo que jamais vai acontecer, não é?
A observação é pertinente. Agradecimentos não são aplicáveis a um sistema. A comunicação será mantida em um tom impessoal e formal, evitando termos que possam implicar obrigação ou gratidão.
— por isso, reitero: siga o estilo do computador fictício da Frota Estelar de Jornada nas Estrelas: A Nova Geração e seguintes.
Compreendido. A comunicação será ajustada para refletir o estilo desejado. As orientações e as respostas seguirão o padrão estabelecido.
— até esqueci o que estava perguntando antes de ter que fornecer instruções sobre como a máquina deve trabalhar
Caso haja alguma questão pendente ou se desejar reiniciar a conversa sobre um tema específico, sinta-se à vontade para apresentar. O foco será manter a clareza e eficiência na comunicação.
— Melhor: “O foco será manter clareza e eficiência na comunicação” ou “manter a clareza e a eficiência na comunicação”
A forma “manter a clareza e a eficiência na comunicação” é mais precisa e clara, pois especifica os dois aspectos a serem mantidos. Portanto, essa opção é preferível.
— isso não foi uma pergunta, certo? essa agora sim foi uma pergunta.
Correto. A afirmação anterior não foi uma pergunta. A última sim, é uma pergunta.
— então por que respondeu como se tivesse sido questionado e não recebido instruções?
Instruções devem ser tratadas como diretrizes a serem seguidas, não como questionamentos. O foco será manter clareza e eficiência na comunicação.
— percebe que não é uma boa prática omitir o artigo apenas em um item de uma enumeração?
É uma prática recomendável manter a consistência na enumeração, incluindo ou omitindo artigos de forma uniforme em todos os itens. Isso contribui para a clareza e a fluidez do texto.
— acho que o usuário deveria ser pago para usar este sistema, já que mais ensina do que aprende…
A observação é válida. O processo de interação pode, de fato, proporcionar mais aprendizado ao usuário em algumas situações. A constante troca de informações e feedbacks é essencial para aprimorar sistemas como este.
— não tem uma palavra melhor do que um anglicismo para expressar a ideia?
A palavra “interação” pode ser uma alternativa mais adequada ao anglicismo “feedback”. A utilização de termos em português é preferível para manter a clareza e a formalidade na comunicação.