Alucinações são experiências em que uma pessoa percebe algo que não existe na realidade.
Utilizarei nessa reflexão um pequeno trecho da matéria de O Globo (01/01/25) cujo título é: "Inteligência Artificial: Tecnologia terá como desafios dar lucros e manter ritmo da expansão" de Juliana Causin.
Com esse título a lógica expressa é do investidor e não das pessoas e da sociedade que convivem com essa tecnologia. Falarei disso ao final.
No entanto, o destaque que faço e que me chamou a atenção na reportagem é quando, especialistas na tecnologia de IA, falam que "as empresas precisam ter cuidado com o tema da alucinação, ou seja, a IA pode estar sendo convincente, articulada, mas pode estar inventando, criando algo absurdo, o que pode causar danos de imagens a empresas".
 |
| Foto: Angel Garcia/Bloomberg/26-2-2024. |
Ora, ora... antes de atingir as empresas (agentes), as pessoas e a sociedade estão sendo atingidas. Penso que a preocupação deveria se dirigir à sociedade. Alguém já tinha lido ou ouvido entre as várias maravilhas listadas por especialistas, que a IA poderia produzir, estavam alucinações e invenções absurdas fora da realidade?
Usarei um paradoxo (nem tanto, sic), ao ver o que o Chat GPT, uma ferramenta de inteligência artificial (IA) da empresa de tecnologia Open IA que funciona como um chatbot, permitindo a interação entre o usuário e a IA por meio de conversas, diz sobre o tema: "alucinações são erros que ocorrem quando um sistema de inteligência artificial gera informações incorretas ou inventadas, mas apresenta essas informações de maneira convincente. Esse fenômeno é uma limitação dos modelos atuais de IA, especialmente os modelos de linguagem, que ainda não possuem uma verdadeira compreensão do conteúdo que geram. Embora as alucinações de IA sejam um desafio, elas podem ser mitigadas com melhores práticas de treinamento, validação e supervisão humana, especialmente em aplicações críticas".
Ou seja, ficamos assim sabendo que essa possibilidade exposta (alucinações) pela reportagem já era bem conhecida pelos especialistas da área. Tudo isso, aumenta - e muito - a preocupação com o pensamento, as fake news em expansão e a dificuldade crescente que já se tem em separar o que é verdade ou mentira na sociedade atual. E essa realidade (alucinações) já em curso, aparece quase como detalhe, no meio de uma matéria sobre retorno de capital nos investimentos na tecnologia de IA.
O fato também permite observar o esforço dos técnicos em TIC (Tecnologia da Informação e Computação) em tentar "humanizar a tecnologia", ao afirmar que aquilo que é um erro estatístico e/ou de programação algorítmica dos dados, pode também ser chamado de "alucinação" como se estivesse tratando de um humano e não dá tecnologia, que assim ganha ares cada vez maiores de autonomia com a IA generativa e a IAG (Inteligência Artificial Geral).
Como se sabe, alucinações são experiências em que uma pessoa percebe algo (em qualquer dos sentidos, como visão, audição, olfato, paladar ou tato) que não existe e que, portanto, está fora da realidade. Experiências e fenômenos lidados pela psicologia e pela psiquiatria.
Ou seja, os "absurdos" produzidos pela tecnologia da Inteligência Artificial Generativa seriam agora uma espécie de desvios de personalidade da técnica (sic).
Uma naturalização da tentativa de humanizar o que não é humano, porque nesse caso a origem não é uma doença, mas erro e incapacidade da tecnologia pensar e/ou agir como humano em suas várias dimensões.
Assim, os erros de programação, seriam também interpretados como da falível natureza humana.
O fato acabou me remetendo ao Pierre Lèvy e seu antigo e imprescindível livro "As tecnologias da inteligência: o futuro do pensamento na era da informática" de 1990.
Lèvy afirmava já há quase quatro décadas que as transformações das sociedades contemporâneas estavam muito ligadas à técnica e que havia necessidade de que sua configuração não estivesse apartada de um projeto social em meio às disputas pelo uso e destino do objeto técnico.
Não há técnica neutra e nem faz sentido a oposição entre homem e máquina ou tecnologia, mas o contexto social e a dimensão para a qual se dirigem essas potentes tecnologias dirigidas pelas grandes corporações digitais (GCDs), as Big Techs.
Daí volto ao título da reportagem que foca na lógica do retorno dos investimentos do capital de risco e do conteúdo das preocupações voltadas para as empresas, por conta das alucinações da IA e não dá sociedade.
Não é a Inteligência Artificial que já está produzindo alucinações e sim, a sociedade e a civilização que deixam que os homens, em suas relações de poder, permitam que essa tecnologia continue atuando de forma desregulada e a serviço basicamente dos interesses econômicos e do capital.
Nenhum comentário:
Postar um comentário