O fabricante do ChatGPT está a procurar reduzir a reputação deste como máquina de batota em roda livre, com uma nova ferramenta que permite aos professores detetarem se um texto foi escrito por um estudante ou pela inteligência artificial.
PUBLICIDADE
O novo AI Text Classifier foi lançado hoje pela OpenAI depois de discussões nas escolas e universidades, ao longo de semanas, sobre a capacidade de o ChatGPTescrever sobre o que quer que seja a pedido e, assim, poder alimentar a desonestidade académica e prejudicar as aprendizagens.
A OpenAI já preveniu que o seu novo instrumento, à semelhança de outros já disponíveis, não é à prova de erro. O método para detetar textos escritos com inteligência artificial “é imperfeito e pode errar”, avisou Jan Leike, chefe da equipa da OpenAI encarregada de tornar seguros os seus sistemas.
PUBLICIDADE
“Portanto, não se deve ficar dependente apenas dele quando se tomarem decisões”, avisou Leike.
Adolescentes e universitários estão entre os milhões de pessoas que começaram a experimentar o ChatGPT, depois do seu lançamento, em 30 de novembro, como aplicação livre no sítio da OpenAI na internet. Enquanto uns encontraram forma de o usar de forma criativa e sem causar prejuízos, a facilidade com que responde a questões dos trabalhos de casa e ajuda com outras tarefas semeou o pânico entre alguns educadores.
PUBLICIDADE
Na altura em que as escolas abriram para o novo ano letivo, grandes distritos de escolas públicas, como Nova Iorque e Los Angeles, começaram a bloquear o seu uso nas salas de aula e equipamentos escolares.
O distrito das escolas públicas de Seattle bloqueou o ChatGPT em todos os equipamentos escolares, mas depois permitiu o acesso aos professores que o queiram usar como instrumento de ensino, disse Tim Robinson, o porta-voz do distrito.
“Não nos podemos permitir ignorá-lo”, disse Robinson.
O distrito escolar está a discutir a possibilidade de expandir o uso do ChatGPT nas salas de aula, de forma a permitir aos professores usá-lo para treinar os estudantes a serem melhores pensadores críticos e aos alunos usá-lo como ‘tutor pessoal’ ou para ajudar a gerar ideias quando estão a fazer um trabalho escolar, adiantou Robinson.
Os distritos escolares em todos os EUA dizem que estão a ver as conversas sobre o ChatGPT a evoluírem rapidamente.
“A reação inicial foi ‘Oh meu Deus! Como é que vamos parar a avalanche de batota que vai acontecer com o ChatGPT?”, afirmou Devin Page, um especialista em tecnologia, do Distrito Escolar Público no condado de Calvert, no Estado do Maryland. Mas agora há um entendimento crescente que “isto é o futuro” e que bloqueá-lo não é a solução, adiantou.
“Penso que seria ingénuo se não estivéssemos conscientes dos perigos que este instrumento representa, ma também falharíamos aos nossos estudantes se os proibíssemos de o usar, devido a todo o seu poder potencial”, disse Page, que admite que distritos como o seu podem vir a desbloquear o ChatGPT, especialmente quando a ferramenta de deteção de autorias estiver disponível.
A OpenAI enfatizou as limitações da sua ferramenta de deteção em mensagem colocada hoje no seu blogue, mas adiantou que esta, além de detetar plágios, também pode ajudar a campanhas automáticas de intoxicação de opinião e outros maus usos da inteligência artificial para mimetizar os humanos.
Quanto maior o trecho, maior a capacidade da ferramenta em detetar a autoria, se humana ou da inteligência artificial. Escreve-se um texto qualquer – um ensaio de admissão à universidade ou uma análise literária – e a ferramenta vai classificá-la como “muito improvável, improvável, não está claro se é, possível ou provável” que seja gerado por inteligência artificial.
Mas, muito como o próprio ChatGPT, que, apesar de ter sido treinado com uma quantidade muito grande de livros, jornais e textos disponíveis em linha, disponibiliza mentiras ou disparates, não é fácil interpretar como é que obteve um resultado.
“Fundamentalmente, não sabemos a que padrão presta atenção ou como trabalha internamente”, reconheceu Leike. “Não há muito que possamos dizer neste momento sobre como é que o classificador trabalha”.
Instituições de ensino superior de vários países também começaram a debater o uso responsável da tecnologia da inteligência artificial. Sciences Po, uma das mais prestigiadas universidades francesas proibiu o seu uso na semana passada e avisou que se alguém fosse apanhado a usá-lo em trabalhos escritos ou orais poderia ser banido de Sciences Po e outras instituições.
Em resposta à contestação, a OpenAI declarou que está a trabalhar desde há várias semanas na definição de linhas orientadoras para ajudar os educadores.
“Como em muitas outras tecnologias, pode ser que um distrito decida que é inapropriado o seu uso nas salas de aula”, disse uma investigadora de políticas da OpenAI, Lama Ahmad. “Nós não pressionamos em qualquer dos sentidos. Apenas queremos disponibilizar a informação necessária à tomadas das decisões que considerem certas”.
Este é um destaque público raro para uma ‘start-up’ [empresa tecnológica nos primeiros tempos da sua existência], no caso baseada em San Francisco e orientada para a investigação, que agora está apoiada pelos milhares de milhões de dólares da sua parceira Microsoft e a enfrentar um interesse crescente da parte do público e de governos.
O ministro da Economia Digital francês, Jean-Noël Barrot, esteve reunido há pouco na Califórnia com executivos da OpenAI, incluindo o presidente Sam Altman, e uma semana depois disse em Davos, no Fórum Económico Mundial, que estava otimista quanto a esta tecnologia.
Mas Barrot, ex-professor no Instituto de Tecnologia do Massachusetts (MIT, na sigla em Inglês) e na escola de negócios parisiense HEC, também destacou a existência de questões éticas difíceis, que têm de ser enfrentadas.
“Se você estiver em uma faculdade de direito, há espaço para preocupação porque obviamente o ChatGPT, entre outras ferramentas, é capaz de resolver exames de forma impressionante. Mas se estiver em uma faculdade de economia, então o ChatGPT vai passar um mau bocado, para procurar ou entregar algo que é expectável quando se frequenta uma faculdade de economia”, comparou.
Barrot acrescentou que vai ser cada mais importante que os utilizadores compreendam as bases de funcionamento destes sistemas, para que percebam que enviesamentos podem existir.
Related Images:
PUBLICIDADE
PUBLICIDADE
