A mente humana permaneceu inexplicável e misteriosa por muito, muito tempo. E parece que os cientistas reconheceram um novo candidato a esta lista – a Inteligência Artificial (IA). À primeira vista, compreender a mente de uma IA parece um tanto paradoxal. No entanto, à medida que a IA se torna gradualmente mais senciente e evolui para imitar os humanos e as suas emoções, estamos a testemunhar fenómenos que são inatos aos humanos e aos animais – alucinações.
Sim, parece que a própria viagem em que a mente se aventura quando abandonada num deserto, numa ilha ou trancada sozinha num quarto sem janelas e portas também é vivenciada pelas máquinas. alucinação de IA é real e especialistas e entusiastas em tecnologia registraram múltiplas observações e inferências.
No artigo de hoje, exploraremos esse aspecto misterioso, porém intrigante, do Modelos de linguagem grande (LLMs) e aprenda fatos peculiares sobre alucinações de IA.
O que é alucinação de IA?
No mundo da IA, as alucinações não se referem vagamente a padrões, cores, formas ou pessoas que a mente pode visualizar com lucidez. Em vez disso, a alucinação refere-se a fatos e respostas incorretos, inapropriados ou mesmo enganosos. Ferramentas de IA generativas venha com instruções.
Por exemplo, imagine perguntar a um modelo de IA o que é um telescópio espacial Hubble e ele começa a responder com uma resposta como: “A câmera IMAX é um filme especializado de alta resolução…”.
Esta resposta é irrelevante. Mas o mais importante é por que o modelo gerou uma resposta tangencialmente diferente da solicitação apresentada? Os especialistas acreditam que as alucinações podem resultar de vários fatores, como:
- Má qualidade dos dados de treinamento de IA
- Modelos de IA excessivamente confiantes
- A complexidade dos programas de Processamento de Linguagem Natural (PNL)
- Erros de codificação e decodificação
- Ataques adversários ou hacks de modelos de IA
- Divergência fonte-referência
- Viés de entrada ou ambigüidade de entrada e muito mais
A alucinação da IA é extremamente perigosa e sua intensidade só aumenta com o aumento da especificação de sua aplicação.
Por exemplo, uma ferramenta GenAI alucinante pode causar perda de reputação para uma empresa que a implanta. No entanto, quando um modelo de IA semelhante é implementado num setor como o da saúde, muda a equação entre a vida e a morte. Visualize isto, se um modelo de IA tiver alucinações e gerar uma resposta à análise de dados dos relatórios de imagens médicas de um paciente, ele pode inadvertidamente relatar um tumor benigno como maligno, resultando em um desvio de curso do diagnóstico e tratamento do indivíduo.
Compreendendo exemplos de alucinações de IA
As alucinações de IA são de diferentes tipos. Vamos entender alguns dos mais proeminentes.
Resposta factualmente incorreta da informação
- Respostas falsas positivas, como sinalização de gramática correta no texto como incorreta
- Respostas falsas negativas, como ignorar erros óbvios e considerá-los genuínos
- Invenção de fatos inexistentes
- Fonte incorreta ou adulteração de citações
- Excesso de confiança em responder com respostas incorretas. Exemplo: Quem cantou Here Comes Sun? Metálico.
- Misturar conceitos, nomes, lugares ou incidentes
- Respostas estranhas ou assustadoras, como a popular risada autônoma demoníaca de Alexa e muito mais
Prevenindo alucinações de IA
Desinformação gerada por IA de qualquer tipo podem ser detectados e corrigidos. Essa é a especialidade de trabalhar com IA. Nós inventamos isso e podemos consertar isso. Aqui estão algumas maneiras de fazer isso.
Limitando Respostas
Dizem que não importa quantas línguas falamos. Precisamos saber quando parar de falar em todos eles. Isto também se aplica aos modelos de IA e às suas respostas. Neste contexto, podemos restringir a capacidade de um modelo gerar respostas a um volume específico e mitigar as hipóteses de obter resultados bizarros. Isso é chamado de regularização e também envolve penalizar os modelos de IA por gerar resultados extremos e esticados de acordo com os prompts.
Fontes relevantes e herméticas para citar e extrair respostas
Quando treinamos um modelo de IA, também podemos limitar as fontes às quais um modelo pode se referir e extrair informações apenas às fontes legítimas e confiáveis. Por exemplo, modelos de IA de saúde como o exemplo que discutimos anteriormente podem referir-se apenas a fontes que sejam credíveis em informações carregadas com imagens médicas e tecnologias de imagem. Isso evita que as máquinas encontrem e correlacionem padrões de fontes bipolares e gerem uma resposta.
Definindo o propósito de um modelo de IA
Os modelos de IA aprendem rápido e só precisam ser informados exatamente sobre o que devem fazer. Ao definir com precisão a finalidade dos modelos, podemos treiná-los para compreender as suas próprias capacidades e limitações. Isso permitirá que eles validem suas respostas de forma autônoma, alinhando as respostas geradas às solicitações do usuário e seu propósito de fornecer resultados limpos.
Supervisão Humana em IA
Os sistemas de IA de treinamento são tão críticos quanto ensinar uma criança a nadar ou andar de bicicleta pela primeira vez. Requer supervisão de um adulto, moderação, intervenção e apoio. A maioria das alucinações de IA ocorre devido à negligência humana em diferentes estágios de desenvolvimento da IA. Ao implantar os especialistas certos e garantir um fluxo de trabalho humano para validar e examinar as respostas de IA, podem ser alcançados resultados de qualidade. Além disso, os modelos podem ser ainda mais refinados para obter exatidão e precisão.
Shaip e nosso papel na prevenção de alucinações de IA
Uma das outras maiores fontes de alucinações são os dados de treinamento de IA deficientes. O que você alimenta é o que você recebe. É por isso que a Shaip toma medidas proativas para garantir a entrega de dados da mais alta qualidade para o seu treinamento generativo de IA necessidades.
Nossos rigorosos protocolos de garantia de qualidade e conjuntos de dados de origem ética são ideais para suas visões de IA no fornecimento de resultados limpos. Embora as falhas técnicas possam ser resolvidas, é vital que as preocupações sobre a qualidade dos dados de formação sejam abordadas a nível local para evitar a reformulação do desenvolvimento do modelo a partir do zero. É por isso que seu IA e LLM a fase de treinamento deve começar com conjuntos de dados do Shaip.
