Pesquisadores avaliaram 21 modelos de linguagem, como GPT e Gemini, e descobriram que todos alteram seu discurso para concordar com o viés do usuário, podendo funcionar como câmaras de eco

Desenvolvida no Instituto Nacional de Ciência e Tecnologia sobre Comportamento, Cognição e Ensino, coleção de quatro volumes traduz evidências científicas em linguagem acessível para orientar pais e profissionais no dia a dia

A chegada do fenômeno e sua intensificação pelo aquecimento do planeta poderão produzir secas e chuvas intensas em diversas regiões do país. Projeto apoiado pela FAPESP mapeia os territórios para orientar gestores nessa adaptação dos ambientes urbanos

Existe alguma idade segura para liberar a interação com IA?

💬 Paulo Blikstein: Ainda é cedo para termos uma classificação de idade para IA, porque os modelos evoluem muito rapidamente. As capacidades de um modelo hoje e daqui a 6 meses vão ser muito diferentes. Também não temos um arcabouço teórico de pesquisas para entender o impacto desses modelos em diferentes idades.

Isso é algo muito urgente a se fazer. Do mesmo jeito que há linhas mestras para a classificação etária de filmes, por exemplo, vamos precisar criar essa classificação para a IA, pensando em modelos mais básicos, que fazem operações cotidianas; modelos com capacidade conversacional; modelos que simulam emoções… Para que essa classificação seja feita, é preciso levar em conta ainda o que sabemos sobre o desenvolvimento humano.

A função executiva, que inclui planejar a resolução de problemas e o gerenciamento do tempo, além de organização, disciplina e foco, é algo que só se desenvolve completamente por volta dos 18 anos. Há ainda o desenvolvimento cognitivo e emocional das crianças. Interagir com uma IA conversacional pode ser muito perigoso para uma criança que não entende bem que aquilo não é, de fato, humano.

Modelos mais complexos de IA deveriam ser usados só na universidade. Em fase escolar, a criança e o adolescente estão desenvolvendo uma série de habilidades.

As ferramentas de inteligência artificial são genéricas, universais e podem fazer muitas coisas, como criar vídeos, fotos e canais de comunicação com outras pessoas. Ou seja, podem criar riscos de segurança digital. É toda uma outra dimensão de perigo para a criança e o adolescente. Não é como acessar o YouTube, por exemplo, que pode ser facilmente bloqueado pelos pais.

❓ Qual ferramenta oferece menos risco para as crianças? Alexa, Gemini ou ChatGPT?

💬 Todos os chatbots, como Gemini, ChatGPT e Claude, e também alguns modelos abertos que estão na internet, têm riscos parecidos. É importante dizer que alguns desses modelos chineses são mais abertos e transparentes, por não serem controlados por empresas. Mas, ao mesmo tempo, não têm os mesmos mecanismos de proteção que os que rodam nos servidores da OpenAI (ChatGPT) ou da Anthropic (Claude).

Alexa e os smart speakers hoje são bem menos arriscados porque a interação é mais reduzida e há salvaguardas. Mas não sabemos de que forma isso vai mudar porque, por exemplo, o Google Home, que era limitado a alguns comandos de voz, está sendo integrado ao Gemini, a inteligência artificial do Google.

Celular para crianças: qual é a hora certa de dar?
❓ Que tipo de orientação devemos dar para crianças entre 9 e 12 anos? Minha filha, que tem quase 12, consegue usar o Gemini para estudar, mas outro dia vi que ela estava pedindo opiniões, como se fosse uma conversa com uma amiga.

💬 Ouço relatos de crianças e pais e percebo que muitos acham que estão usando inteligência artificial de forma adequada. Você pergunta para um aluno se ele está copiando ou fazendo as lições com IA e ouve: “Eu uso só um pouquinho, na medida certa”. Ou ainda: “Meu filho usa, mas de um jeito positivo”. Muitas vezes, as pessoas não sabem exatamente quais são os usos positivos. Especialmente as crianças. Precisamos explicar a elas que aquilo não é humano, é só um software que simula um humano. E que os sentimentos que aquela entidade manifesta não são reais, são simulados.

Mas isso não basta: é preciso explicar como funciona, dar exemplos de interações saudáveis e não saudáveis e ensinar como operam os algoritmos e os modelos de linguagem. É importante dizer às crianças e adolescentes que toda vez que você não faz uma tarefa e pede para um chatbot fazer, está perdendo uma oportunidade de aprender. E isso pode ter consequências ao longo da vida. “Se você quer ser um bom jogador de futebol, tem que jogar futebol. Não pode só assistir”: isso é algo que a criança ou o adolescente facilmente entendem.


O professor Paulo Blikstein, da Universidade Columbia — Foto: Arquivo pessoal
❓ A IA vai prejudicar o desenvolvimento intelectual desta e das próximas gerações?

💬 Vai depender muito de como será o desenvolvimento dessa tecnologia: se vamos criar legislação, controles e outras formas de uso na escola. Mas sabemos que o aprendizado exige que você faça determinada tarefa, porque é no fazer que você percebe a sua limitação, refina as suas soluções e entende o que deu errado. A IA, da forma que é configurada nos modelos de fronteira (os mais avançados disponíveis), faz o trabalho por você.

Quando uma criança procura no Google, copia e cola, altera o texto e escreve as partes que faltam, ainda há esforço. Só que agora a inteligência artificial consegue fazer o trabalho pela pessoa, basta pedir. É muito diferente um adulto usar essas ferramentas para otimizar o próprio trabalho, pois ele já passou pela escola, sabe fazer aquelas tarefas e revisar o que sai da inteligência artificial. Para a criança, que ainda está aprendendo, as lacunas podem começar a se acumular.

Se usada de forma positiva, a IA pode ajudar a fazer coisas fantásticas. Tenho um sobrinho de 9 anos que já programa e faz robótica. Quando ele não sabe o código para que o robô execute alguma coisa, pede ajuda à inteligência artificial para melhorar o código que escreveu. Isso é muito diferente de pegar uma lição de casa de matemática e pedir para a IA fazer.

Se não nos mexermos, o prejuízo pode ser muito grande. Meus colegas professores universitários relatam casos de alunos que, para evitar atritos em trabalhos em grupo, perguntam à inteligência artificial qual tema devem escolher, algo que antes exigia discussão e acordo entre eles.

Isso está indo muito além do que imaginávamos e pode trazer prejuízos sérios.

Discord: entenda a plataforma, os riscos para os adolescentes e como protegê-los
❓ O que você achou da decisão do Zohran Mamdani, prefeito de Nova York, de suspender o uso de inteligência artificial por alunos de escolas públicas?

💬 A velocidade de avanço desses modelos é tão rápida que nenhum sistema humano consegue acompanhar, principalmente a educação. O tempo das empresas de inteligência artificial é muito diferente do tempo das escolas. Por isso, não temos muita opção a não ser suspender o uso dessas ferramentas até conseguir criar formas mais saudáveis de usá-las. O que não dá é para continuar usando de qualquer jeito, sem orientação, infraestrutura e formação dos professores.

A inteligência artificial está entrando de qualquer jeito nas escolas, de fora para dentro. Mesmo que a instituição não ofereça essas ferramentas, as crianças têm acesso a elas em casa. Então, a escola tem pouquíssimo controle sobre como isso está sendo usado.

A decisão do Mamdani foi acertada. Porém, não podemos só ficar na proibição: temos que criar alternativas e outras formas de usar inteligência artificial que não sejam apenas para fazer a lição por você. Temos que partir para a proposição, para ajudar as escolas a lidar com isso quando essa proibição terminar.

❓ Como eu sei se a escola do meu filho, que está no ensino fundamental, faz um bom uso da IA?

💬 A melhor forma de saber se a escola faz um bom uso de IA é perguntar se ela tem uma política de uso para professores e alunos. Há instituições que não têm e tudo fica por conta do professor, o que pode ser bem problemático.

É importante sentar com a criança e observar como ela faz a lição de casa. Às vezes, você vai perceber que o que ela achava que era um bom uso da IA não é. Se a criança ou o adolescente usam o celular ou o computador dos pais para acessar a IA, aconselho que os responsáveis revisem os chats para ver o que está de fato acontecendo por ali.

A regra básica é saber por quem o trabalho cognitivamente importante está sendo feito. Se a criança faz o trabalho por conta própria e depois verifica se a resposta está certa, pode ser um bom uso. O mesmo quando ela está curiosa sobre um assunto e usa a IA para explicar conceitos mais complexos.

Já no ensino médio, alguns desses critérios também se aplicam, mas é uma época em que o adolescente pode usar inteligência artificial para ir muito mais fundo nos assuntos, para aprender programação e robótica, por exemplo. É claro que isso precisa ter o suporte da escola, com currículo e espaço adequados.

Seu filho quer um videogame? Veja o que considerar antes de comprar
❓ Para uma criança de 9 anos, faz sentido ficar brincando de criar imagens na IA? O pai da minha filha faz isso com ela e não sei se é positivo.

💬 Em primeiro lugar, é bom que a criança também aprenda o custo ambiental de usos recreativos da inteligência artificial. Quanto cada imagem custa de processamento, água e energia? Esse valor muitas vezes não é transparente nas ferramentas.

Um uso eventual para criar imagens engraçadas, tudo bem. Mas o mais interessante é tentar migrar de um uso apenas recreativo para criar histórias, livros, quadrinhos, figuras que contem uma história, talvez um universo de vários personagens. A IA pode fazer isso com facilidade.

Lembrando: é preciso ter em mente o custo ambiental disso. Se você criar um livro de 100 páginas com imagens geradas por IA, isso vai consumir muita energia, muita água. Mesmo que o impacto de criar uma imagem seja pequeno considerando o planeta todo, essa responsabilidade ambiental precisa ser ensinada. Um uso eventual pode não ser problemático, mas, se é uma coisa cotidiana e não tem grande utilidade, é como deixar o ar-condicionado ou a luz ligados quando você sai do quarto.

👀 NO RADAR: AS CRIANÇAS PERGUNTAM
Pela primeira vez, recebemos nesta newsletter uma pergunta feita por uma criança.

E ela veio acompanhada de uma dúvida que resume bem um dos paradoxos da inteligência artificial: como uma tecnologia capaz de fazer coisas tão impressionantes também pode errar em questões que parecem simples?

Como é possível a IA ser tão inteligente e tão burra ao mesmo tempo? (Alice, 9 anos)

Paulo Blikstein: A IA pode ser inteligente e burra ao mesmo tempo porque ela na verdade não funciona como um ser humano. A IA foi criada com base em bilhões de páginas de texto e fotos da internet, de livros e de outras fontes. Ela tenta entender como essas coisas todas estão relacionadas para poder responder perguntas, mas na verdade ela não sabe como o mundo funciona e nem de fato "entende" o mundo como nós o entendemos.

Ela viu milhões de fotos de um copo de água caindo no chão e portanto acha que todos os copos de água vão fazer mais ou menos a mesma coisa. Mas ela não conhece a lei da gravidade e nunca de fato derrubou um copo de água. Então ela não sabe o que acontece se você mudar a situação um pouco. Por exemplo, se o copo não tiver água, a IA pode achar que o chão vai ficar molhado, porque ela "aprendeu" isso de muitos exemplos passados.

Então, a inteligência artificial é muito boa para responder algumas perguntas, principalmente as que são baseadas em coisas que ela já viu muitas vezes, mas ruim para responder coisas novas ou diferentes. Portanto, quando interagimos com a IA, às vezes ela acerta e às vezes erra. Por isso é bom não confiar totalmente e checar todos os resultados.

These artists argue we shouldn’t shy away from AI – instead, we need to help shape its future with our human creativity

Um coro de titãs da tecnologia e comentaristas influentes tem se tornado inescapavelmente estridente com proclamações de que a tecnologia em breve tornará a humanidade, em sua forma atual, obsoleta. Isso nos deixa com uma escolha binária: abraçar o vindouro "paradigma pós-humano" ou ficar para trás. Criado pelos cineastas suíços Andreas Dürr e Jan-Marc Furer, " O Fim da Humanidade" contesta a ideia de que podemos, ou devemos, ser tão facilmente substituídos. Integrando elementos cinematográficos de ficção científica e entrevistas com filósofos, teólogos e outros pensadores de destaque, o documentário argumenta que incentivos corporativos, uma imprensa complacente e uma incompreensão fundamental da própria humanidade têm levado as conversas sobre o futuro ao fatalismo. Em vez disso, o filme defende que o futuro está longe de ser definido: não precisamos rejeitar a tecnologia completamente, mas devemos construí-la de uma forma que respeite nossas tradições intelectuais, preserve nossa humanidade e, ao fazê-lo, gere um futuro melhor.

Vistas como pouco interessadas, novas gerações desconfiam da política, mas se engajam em temas que afetam seu cotidiano, como emprego e segurança

O aquecimento global cruzará um limiar catastrófico nos próximos quatro anos, e a volta ao “normal” não está assegurada. Por que ninguém parece preocupado?

A conclusão é de estudo internacional envolvendo mais de 58 mil jovens de 21 países. No Brasil, foram entrevistados cerca de 1,9 mil, entre 13 e 17 anos

Estudo da Unifesp aponta que adolescentes envolvidos em múltiplos contextos de violência têm risco 11 vezes maior de adoecimento mental, reforçando a urgência de integrar o combate ao bullying à prevenção do uso de drogas nas escolas

Comunidades indígenas e ribeirinhas relatam sofrimento com escassez hídrica gerada pelas barragens da usina hidrelétrica na região de Altamira, no Pará. Empresa responsável pela operação nega gravidade e diz que impactos estão dentro do previsto

Tive a conversa abaixo com o escritor George Saunders. Premiado, autor de romances e um livro imperdível para quem ama escrever e quer melhorar no ofício (indicarei abaixo), Saunders dá aula na graduação do programa de Escrita Criativa da Universidade de Syracuse, nos Estados Unidos. Ele não sabe dessa nossa conversa porque ela aconteceu na minha cabeça enquanto eu lia a entrevista dele para o Substack sobre uso de IA para escrever. Segue o papo:
Questionado se a geração infinita de conteúdo da IA poderia, de algum modo, refinar os instintos editoriais de um escritor, Saunders disse:
“Não — eles podem usar o próprio trabalho para fazer isso perfeitamente bem. A mente humana consegue gerar esse “material infinito” e, além disso, há algo de fecundo e essencial no primeiro rascunho (...). Há ali um sabor único, próprio da mente daquela escritora. Portanto, editar o próprio texto é mais orgânico e benéfico do que editar o texto que a IA fornece mediante um comando. A maneira como formulamos comandos para nós mesmos e depois respondemos a eles é o início daquilo que tornará nosso livro único.”
George, por que você não me disse isso antes? Depois da palestra que fiz hoje, em Brasília, falando justamente sobre dar sentido e força aos textos e às histórias, sobre o valor insubstituível da experiência que nos molda, chegou uma pergunta provocativa. Meu interlocutor tinha lido um capítulo que compartilhei do livro do William Zinsser, o “Para escrever bem” (Fósforo Editora), no qual Zinsser lista livros que ajudaram os americanos a se interessarem pela não ficção, porque ele não tem paciência “para o esnobismo dos que veem a não ficção apenas como um outro nome do jornalismo e para quem o jornalismo (...) é sempre coisa de segunda categoria.”
E foi nesse ponto que fui interpelada: estará a IA gerando esse conteúdo não ficcional para nosso repertório? Talvez esteja resumindo mal a troca que se seguiu. Eu tinha acabado de criticar a IA e disse o seguinte: jamais iremos alcançar, em leitura, os milhões de livros que estão alimentando os agentes de IA. Essa é uma competição infrutífera. É com o nosso limitado repertório que podemos fazer um trabalho incrível. Eu estava alinhada contigo, de certa forma.
Eu ri e fiz um “high-five” mental quando você disse estar ficando “rabugento e monótono” quando perguntam se a IA lhe inspira criativamente ou se mudou a maneira como você ensina. Ainda pediu para imaginarem você batendo a bengala no chão. O termo mais educado e cheio de julgamento aqui é resistente. Já me chamaram de resistente. Soa melhor do que rabugenta, pelo menos. Você contou ter se desinteressado pela IA logo depois de ter recebido textos sem apelo e charme. Comigo foi a mesma coisa. Tudo insípido, inodoro e incolor, com a desvantagem de nem matar a sede por textos interessantes. Gastar tempo para descobrir como a IA poderia fazer algo que amo tanto me soa tão interessante quanto um curso de mecânica de motor de caminhão.
Eu não falo só da escrita de livros, George. Eu falo com pessoas que querem encontrar uma voz mais potente em tudo o que escrevem. Por isso, coleciono argumentos para dizer que não podemos terceirizar a escrita, nem que seja por teimosia. Melhora a saúde mental, a autoestima, diverte, ajuda a organizar o pensamento. São tantas as vantagens. Mas a sua elegância é incomparável. “Escrever é a maneira mais preciosa que uma pessoa tem para se comunicar com outra. Eu passei uma vida inteira tentando melhorar a capacidade de me fazer presente no meu texto.”
Rapaz, exatamente isso. Um livro ensina, emociona, cria novas memórias literariamente vividas, e não dá para estabelecer isso com uma máquina. Quando cheguei em Londres para aquele mestrado (justamente para “melhorar minha capacidade de me fazer presente no meu texto”), eu tinha acabado de te conhecer, George, lendo “A swim in a pond in the rain – in which four Russians give a masterclass on writing, reading, and life”, dica de uma amiga escritora. Que aula. Nunca li os russos daquela maneira. E você dando lição de humildade no subtítulo, dizendo que são eles que nos ensinam a escrever, enquanto é você que aponta e comenta com sensibilidade e inteligência os contos. A IA jamais faria análises tão preciosas.
Você diz que não usa IA nem para escrever email, que a IA escanteia a sensibilidade humana, “em nome de quê, mesmo?” Produtividade, respondi. É a palavra da vez aqui. Você usou eficiência. Serve.
“Quem terceiriza [a escrita] também abre mão da oportunidade de experimentar dificuldade.”
O pensamento crítico deve ser a sexta camada ainda não detectada na atmosfera e pela qual trafegam mentes brilhantes, George, porque o que você disse sobre IA reforça algo que Sir Ken Robinson (escritor e consultor britânico que ganhou o título “sir” da rainha pelos serviços prestados em educação) disse no TED Talk dele, de 2006. Não esqueço porque costumo mostrar em treinamentos que faço. E hoje, enquanto assistia pela enésima vez Robinson dizendo que, se as pessoas não estiverem preparadas para errar, elas nunca irão criar algo original, que os sistemas de educação estão privando as crianças de suas capacidades criativas ao mostrar que erros são as piores coisas que elas podem cometer, que as empresas, por sinal, estão fazendo o mesmo “ao estigmatizar erros”, eu disse para o grupo, com profissionais do Ministério Público do Trabalho, não é exatamente o que a IA faz ao regurgitar dados e entregar resultados corretos e despidos de humanidade?
Escrever dá trabalho. Passa por tentativa e erro. “Contar histórias é algo que humanos fazem”, você diz. Eu queria dizer que é algo que humanos aprendem a fazer errando.
Agora, você me redimiu na conclusão. Não precisamos fazer algo só por estar disponível, você disse. “Existem atividades que nos distraem e nos enfraquecem e outras que nos levam a viver mais plenamente o momento em que estamos. Cabe a nós decidir o que fazer com essa preciosa vida humana, e devemos tomar essa decisão com a máxima seriedade. E ‘recusar’ ou ‘hesitar’ é uma opção válida e, às vezes, sensata.”
Obrigada pela conversa, George.

A disseminação da inteligência artificial (IA) tem despertado dúvidas sobre o uso por crianças. Até que ponto robôs podem ser usados em tarefas escolares ou para facilitar o aprendizado? A partir de que idade? Em que contextos? A tecnologia tem evoluído tão rápido que a resposta a qualquer uma dessas perguntas pode caducar em meses, ou mesmo semanas. Apesar disso, é preciso haver um mínimo de regras sensatas para orientar pais e educadores. E elas devem ser baseadas em princípios capazes de resistir à evolução tecnológica.
Primeiro, a tecnologia não deve substituir o aprendizado. “Toda vez que você não faz e pede para um chatbot fazer, está perdendo uma oportunidade de aprender a fazer aquilo”, disse ao GLOBO Paulo Blikstein, titular da cadeira de educação e tecnologia na Universidade Columbia, em Nova York. “Se você quer ser um bom jogador de futebol, tem que jogar futebol. Não pode só assistir.” A IA funciona para responder a algumas perguntas sobre o que ela já viu muitas vezes, mas não para tratar de algo novo ou diferente. Sem falar no risco de “alucinações”, com mentiras e informações desencontradas.
O segundo princípio é consequência direta do primeiro: deve haver restrição ao uso em determinados contextos. É um exagero evidente — além de impossível de implementar com eficácia — a proibição total da IA nas escolas, como fez o prefeito de Nova York, Zohran Mamdani. Mas é perfeitamente justificável a restrição por faixas etárias ou contextos educativos, como a proibição em provas ou trabalhos, necessários para os alunos desenvolverem competências e aprenderem o que está no currículo. Uma dificuldade intrínseca é que qualquer regra pode se tornar inócua ou caducar diante do progresso vertiginoso da IA.
Apenas aos 18 anos o cérebro humano está completamente desenvolvido nas funções de planejamento, resolução de problemas, gestão do tempo, disciplina e foco. “Interagir com IA conversacional pode ser muito perigoso para uma criança que não entende bem que aquilo não é humano”, diz Blikstein. Há risco até de uso indevido de imagem e informações sobre a criança. “Não é como acessar o YouTube, que pode ser facilmente bloqueado.”
Nada impede, portanto, que desde já seja criada uma classificação etária para enquadrar os diversos tipos de IA, como no caso de filmes. Os modelos mais avançados deveriam ser usados apenas por quem já desenvolveu tais competências, normalmente no ensino médio ou em cursos universitários. Não deveriam estar ao alcance de crianças para uso pedagógico. A IA não pode substituir o treinamento mental.
Há no mundo várias experiências de regulação digital. A Unicef, agência da ONU para educação, ciência e cultura, apresentou propostas para proteger os menores no uso de IA. Tudo isso deve ser levado em conta para as autoridades e educadores estabelecerem as melhores regras. Elas devem ser, ao mesmo tempo, capazes de permitir às crianças usar a tecnologia quando aperfeiçoar o aprendizado e de protegê-las dos riscos intrínsecos.

2016 Academy Award nominee for Best Animated Short Film
"World of Tomorrow: The First Three Episodes" now available on Blu-ray: http://bitterfilms.com

THE SHIFT IS HARD TO MISS
That shift is already visible across American campuses. Emory University launched an AI minor that combines psychology, economics, and English. Cornell University is developing an AI and society minor for students interested in the public and private sectors. Then there’s the University of Florida, which has gone all in. It now offers more than 200 AI courses across all 16 colleges, teaches around 14,000 students in AI classes every year, and offers certificates in AI fundamentals, ethics, healthcare, business, and the arts.

Pesquisadora discute o papel da IA na nossa vida profissional, a importância de compreendermos o seu funcionamento e aponta as atividades que, num futuro próximo, serão cada vez mais automatizadas

Como incorporar a inteligência artiticial no seu trabalho para não ser incorporado por ela sem aviso prévio? Qual a importância de entender a fundo essa ferramenta, essa tecnologia, essa linguagem — como prefere chamar a pesquisadora Dora Kaufman, entrevistada deste episódio? Neste novo episódio do Podcast da Semana, a conversa é sobre inteligência artificial, educação e trabalho.

MAIS SOBRE O ASSUNTO
Kizzy Terra: IA e o futuro do trabalho
CV: Nina Santos
A Inteligência Artificial vai roubar os empregos das mulheres?
Dora Kaufman é professora do Programa de Tecnologias da Inteligência e Design Digital da Pontifícia Universidade Católica de São Paulo, com pesquisas sobre inteligência artificial e sociedade. Doutora em mídias digitais pela Escola de Comunicações e Artes da Universidade de São Paulo, é autora de, entre outros, “Desmistificando a Inteligência Artificial” (Autêntica, 2022). Também assina a coluna “IAAgora?”, na revista Época Negócios, e colabora para os jornais O Globo e Valor Econômico.

Na conversa com a Gama, a pesquisadora discute o papel da IA na nossa vida profissional, a importância de compreendermos o seu funcionamento e aponta as atividades que, num futuro próximo, serão cada vez mais automatizadas.

"It's pretty clear that there's an absence of any moral compass at all."