AI:s framtida roll i utbildningen – både i och utanför klassrummet – är omdebatterad.
Men medan mycket fokus läggs på hotbilder om generativ AI, som ett verktyg för att fuska på inlämningsuppgifter, eller där AI-bias gör att elever får felaktig eller till och med skadlig information, talas det inte lika mycket om hur AI-tekniken kan integreras i skolarbetet på ett sätt som främjar inlärning.
Vi närmar oss ett stadium där AI kan användas för att anpassa informationsinhämtning efter varje elevs unika inlärningsstil och bidra till att hitta nya sätt att stärka sina färdigheter.
Att ta vara på möjligheterna innebär inte att bortse från riskerna. För att denna potential ska bli verklighet krävs noggrant övervägande av etiska frågor och ett starkt engagemang för att säkerställa rättvis tillgång för alla elever. Utan ett ansvarsfullt förhållningssätt riskerar AI i klassrummet att förvärra redan existerande ojämlikheter och hindra utvecklingen av elevernas kritiska tänkande. Därför kräver utvecklingen av AI-förstärkt utbildning ett nära och djupt samarbete mellan olika yrkesgrupper, såväl tekniska experter, som lärare, psykologer, mångfaldsspecialister, etiker och elever.
“Den första frågan som bör ställas är om AI-lösningen verkligen är nödvändig – kommer den att lösa ett problem eller skapa ett nytt? AI kan stödja, men inte ersätta, välgrundad utbildningspolitik och effektiva undervisningsmetoder. Vi måste vara försiktiga med att implementera AI-lösningar enbart för att de är teknologiskt genomförbara, utan att noggrant överväga de bredare sociala och etiska konsekvenserna”, säger AI-experten Ivana Bartoletti, Global Chief Privacy and AI Governance Officer på Wipro.
FN-organisationen UNESCO:s vägledning från 2023 om generativ AI i utbildning är en god startpunkt för det arbetet. Vägledningen främjar kvalitet, jämlikhet och inkludering, samt behandlar etiska frågor, dataskydd och behovet av engagemang från intressenter. Den beskriver också viktiga steg för att implementera regleringar som betonar vikten av internationellt samarbete och kapacitetsuppbyggnad: att främja kulturell mångfald och inkludering, uppmuntra olika världsbilder, hjälpa elever och lärare att utveckla AI-kompetens, skydda mänsklig handlingsfrihet, övervaka GenAI-modeller och testa dem lokalt, samt att undersöka GenAI:s långsiktiga konsekvenser.
Ett konkret exempel på hur en AI-tjänst kan bistå med undervisningshjälp är att gå igenom en komplicerad matematikuppgift. När läraren förklarar hur man löser uppgiften kan AI:n ta in samma information som eleven, och sedan anpassa den och besvara följdfrågor.
Misstro som designprincip i universitetsmiljöer
För att integrera AI i högre utbildning och samhällsorienterade ämnen är det viktigt att uppmuntra ”misstro som designprincip” för att främja försiktighet. Denna strategi hjälper studenter att kritiskt analysera AI-genererat innehåll, ifrågasätta källor, förstå begränsningar och diskutera etik, integritet och AI:s samhälleliga påverkan. Studenter bör till exempel lära sig att ställa frågor som ”Vem skapade denna AI?”, ”Vilka data användes för att träna den?”, ”Vilka potentiella fördomar finns inbyggda i systemet?” och ”Hur kan denna teknik missbrukas?”. Lärare kan integrera dessa frågor i klassrumsdiskussioner och uppgifter för att främja en kultur av kritiskt tänkande.
“Genom att inge denna försiktighet ger vi studenterna verktyg att bli medvetna och kritiska konsumenter av AI-genererad information. Detta uppmuntrar dem att ifrågasätta källan, förstå dess begränsningar och delta i diskussioner om etik, integritet och de bredare samhällseffekterna av AI”, säger Ivana Bartoletti.
