För att använda artificiell intelligens i utbildningen, som student, lärare eller forskare, krävs en förståelse för risker och konsekvenser av att använda AI-baserade verktyg. För att hjälpa oss förhålla oss till AI i utbildningen och i vardagen finns ett flertal olika etiska riktlinjer. Vi kan använda de etiska riktlinjerna för att skapa ramar i undervisning, bedömning och examination.

Sammanfattning

De etiska riktlinjer som beskrivs nedan kan sammanfattas med att användningen av AI-verktyg måste ske ansvarsfullt, utifrån ett bredare synsätt och i linje med rådande riktlinjer, lagstiftning och förordningar. Följande punkter är centrala i sammanhanget:

  • Transparens: Utbildare måste säkerställa transparens i användningen av AI, inklusive de datakällor som används, algoritmer som tillämpas och eventuella beslutsprocesser.
  • Gynnsamhet: Användningen av AI inom utbildning bör syfta till att gynna elever, lärare och samhället som helhet.
  • Ansvarsskyldighet: Lärare måste vara ansvariga för användningen av AI-system i utbildningen, och det bör finnas tydliga ansvarsfördelningar för eventuella resultat som uppstår till följd av användningen.
  • Professionellt ansvar: Lärare och utbildare måste använda AI på ett ansvarsfullt och professionellt sätt, med hänsyn till den potentiella påverkan på eleverna.
  • Säkerhet: AI-system som används i utbildning måste vara säkra och skydda mot obehörig åtkomst eller missbruk av data.
  • Respekt för grundläggande rättigheter: AI-system måste respektera grundläggande rättigheter, inklusive integritet, icke-diskriminering och yttrandefrihet.
  • Rättvisa: AI-system måste vara utformade för att undvika och mildra eventuella fördomar eller diskriminering.
  • Inkludering: AI bör utformas på ett sätt som säkerställer att alla elever kan dra lika stor nytta, oavsett bakgrund eller förmåga.
  • Tillgänglighet: AI bör utformas på ett sätt som gör det tillgängligt för alla elever, inklusive de med funktionsnedsättning eller andra särskilda behov.
  • Mänsklig tillsyn: AI bör användas för att stödja, inte ersätta, mänskliga lärare, och det bör alltid finnas mänsklig tillsyn över AI-system som används inom utbildning.

Sammanfattning av Europakommissionens förhållningssätt

Etisk användning av AI förutsätter pedagogiskt ansvar, ansvarstagande och transparens i alla steg, tillgänglighet och inkludering och hänsyn till utvecklingen av kompetenser som skapar individer som är redo för en föränderlig värld.

Europakommissionen

Europakommissionen publicerade i oktober 2022 riktlinjer för etisk användning av artificiell intelligens (AI) i utbildning. Du kan läsa dokumentet i sin helhet på Europakommissonens Publications Office: Etiska riktlinjer för lärare avseende användningen av artificiell intelligens (AI) och data vid undervisning och inlärning Länk till annan webbplats, öppnas i nytt fönster.

Det finns också riktlinjer för hur tillförlitligheten hos AI ska bedömas, vilket också kan ge oss riktlinjer för hur vi ser på användning av AI i utbildningen.

Europakommissionens Etiska riktlinjer för tillförlitlig AI Länk till annan webbplats, öppnas i nytt fönster. beskriver flera punkter som tydliggör förutsättningarna för att använda och utveckla användningen av AI.

Sammanfattningsvis, inkluderande andra liknande policydokument och riktlinjer som tagits fram på Europanivå, såsom New Skills Agenda for Europe och Artificial Intelligence for Europe, kan vi sammanfatta ett etisk förhållningssätt till AI inom EU i följande punkter:

  • Mänsklig autonomi och handlingskraft: AI-verktyg inom utbildning bör stödja studenters autonomi och beslutsfattande och ge dem möjlighet att delta i inlärningsprocessen.
  • Inkludering och lika villkor: AI-system bör vara tillgängliga för alla studenter, med hänsyn till olika behov och bakgrunder, och säkerställa att ingen lämnas utanför.
  • Pedagogiskt ansvar: Lärare bör behålla kontrollen över utbildningsprocessen och använda AI som ett verktyg för att förbättra undervisning och lärande, med hänsyn till dess begränsningar.
  • Etisk användning av data: Data som samlas in med AI-verktyg ska användas på ett etiskt sätt som skyddar elevernas integritet och säkerställer korrekt samtycke och transparens.
  • Personanpassat lärande och välbefinnande: AI-system bör användas för att tillhandahålla personliga inlärningsupplevelser samtidigt som man tar hänsyn till elevernas välbefinnande och mentala hälsa.
  • Laglig, etisk och robust AI är grunderna för tillförlitlig AI.
  • Respekt för mänsklig värdighet: AI-system bör utformas för att gynna individer och samhälle och säkerställa att mänskliga värden och grundläggande rättigheter upprätthålls.
  • Öppenhet och transparens: AI-system ska kunna förklaras och ge tydlig information om deras kapacitet och begränsningar till användare och intressenter.
  • Rättvisa och icke-diskriminering: AI-system ska undvika fördomar och säkerställa likabehandling av individer, oavsett deras egenskaper eller bakgrund.
  • Ansvarsskyldighet: De som är involverade i utvecklingen och införandet av AI-system bör vara ansvariga för sina handlingar och beslut.
  • Robusthet och säkerhet: AI-system bör vara tillförlitliga, säkra och motståndskraftiga för att minimera risker och potentiell skada för användare och samhälle.
  • Integritet och datastyrning: Personuppgifter ska hanteras på ett säkert sätt och i enlighet med dataskyddsbestämmelser, och användarna ska ha kontroll över sina uppgifter.
  • Livslångt lärande: Främja en kultur av kontinuerligt lärande och ge möjligheter för individer att förvärva nya färdigheter under hela livet.
  • Digital kompetens: Betona utvecklingen av digitala kompetenser, inklusive AI-kunskaper, för att säkerställa att individer är förberedda för den digitala eran.
  • Kritiskt tänkande och kreativitet: Främja färdigheter som kritiskt tänkande, problemlösning och kreativitet för att göra det möjligt för individer att anpassa sig till nya utmaningar och hitta innovativa lösningar.
  • Sociala och emotionella färdigheter: Erkänna vikten av sociala och emotionella färdigheter, såsom empati, lagarbete och motståndskraft, för att trivas i en snabbt föränderlig värld.
  • Samarbete med intressenter: Uppmuntra samarbete mellan utbildningsinstitutioner, arbetsgivare och andra intressenter för att säkerställa att kompetensutvecklingsinitiativen är relevanta och effektiva.
  • Etiskt och rättsligt ramverk: Utveckla och tillämpa ett robust regelverk för att säkerställa en ansvarsfull och etisk användning av AI-teknik i Europa.
  • Innovation och konkurrenskraft: Stödja forskning, innovation och entreprenörskap inom AI för att stärka Europas konkurrenskraft och tekniska framsteg.
  • Sociala och ekonomiska konsekvenser: Ta itu med de potentiella effekterna av AI på sysselsättning, samhälle och ekonomi, och främja inkluderande tillväxt och social sammanhållning.
  • Utbildning och fortbildning: Integrera AI-utbildning och utbildningsprogram för att utrusta individer med nödvändiga färdigheter för att engagera sig i AI-teknik effektivt.

UNESCO

UNESCO publicerade den första globala standarden för AI-etik - Recommendation on the Ethics of Artificial Intelligence Länk till annan webbplats, öppnas i nytt fönster. i november 2021. Detta ramverk antogs av alla 193 medlemsstater.

Skyddet av mänskliga rättigheter och mänsklig värdighet är en central del av rekommendationen, som bygger på främjandet av grundläggande principer som transparens och rättvisa, samt vikten av mänsklig tillsyn av AI-system.

Det som gör rekommendationen exceptionellt tillämplig är dess omfattande politiska åtgärdsområden, som gör det möjligt för beslutsfattare att omsätta de grundläggande värdena och principerna i handling med avseende på datastyrning, miljö och ekosystem, jämställdhet, utbildning och forskning samt hälsa och socialt välbefinnande, bland många andra områden.

Huvudsyftet med UNESCO:s rekommendation när det gäller högre utbildning och etisk användning av AI för studenter är att främja integreringen av utbildning om AI i läroplaner och lärandemål för högre utbildning, främja etisk medvetenhet och kritiskt tänkande om AI samt säkerställa att AI-system som används i utbildningssammanhang upprätthåller mänskliga rättigheter, rättvisa och transparens.

Ett svenskt perspektiv

Sveriges regering har utvecklat en nationell inriktning för artificiell intelligens Länk till annan webbplats, öppnas i nytt fönster.. I den uttrycks att "Sverige ska vara bäst i världen på att använda digitaliseringens möjligheter" och ett flertal punkter för att möjliggöra detta beskrivs:

  • Sverige behöver utveckla regler, standarder, normer och etiska
    principer i syfte att vägleda etisk och hållbar AI och användning av AI.
  • Sverige behöver verka för svenska och internationella standarder och regelverk som främjar användning av AI och förebygger risker.
  • Sverige behöver kontinuerligt se över behovet av digital infrastruktur för att tillvarata möjligheterna som AI kan ge.
  • Sverige behöver fortsätta arbetet med att tillgängliggöra data som kan utgöra en samlad infrastruktur för att använda AI på områden där det tillför nytta.
  • Sverige behöver fortsätta att ta en aktiv roll i EU:s arbete med att främja digitalisering och med att möjliggöra nyttan som användningen av AI kan medföra.

Svensk strategi och policy

Det övergripande målet är att skapa AI-utbildning och användning av AI i utbildning som främjar etik, kompetensutveckling och hållbarhet för att maximera de positiva effekterna av AI inom utbildningssektorn i Sverige.

Punkterna är tillämpningsbara även inom högre utbildning, och tillsammans med Förordning om artificiell intelligens Länk till annan webbplats, öppnas i nytt fönster. (Faktapromemoria 2020/21:FPM109) som föreslår tillämpning av Europeisk lagstiftning, bland annat med hänsyn till utveckklingen av EU AI Act Länk till annan webbplats, öppnas i nytt fönster., beskrivs hur användning av AI kan begränsas. Exempelvis använder förslaget ett riskbaserat angreppssätt för att skapa en strukturerad uppdelning mellan olika typer av AI-system och hur de används. Vissa typer av AI-system är förbjudna, medan andra är tillåtna att användas. Det finns dock restriktioner och krav, som att de måste registreras och övervakas av ansvarig myndighet. AI-system med låg risk kan användas utan begränsningar. Det föreslås att offentliga organ inrättas på nationell och EU-nivå för att övervaka marknaden och se till att regler följs. Som student, lärare, utbildare eller forskare kommer vi att behöva navigera lagar och förordningar som beskriver hur AI kan och får användas.

Genom att sammanfatta Nationell inriktning för artificiell intelligens kan vi också sammanställa etiska riktlinjer som utgör grunden för lagstiftarnas arbete för att reglera AI i Sverige. Dels i den bedömning från regeringen som under "Utbildning":

  • Svenska universitet och högskolor behöver utbilda tillräckligt många inom AI, särskilt vad gäller fort- och vidareutbildning för yrkesverk- samma med avslutad akademisk examen eller motsvarande.
  • Sverige behöver ett starkt AI-innehåll i icke-tekniska utbildningar i syfte att skapa förutsättningar för en bred och ansvarsfull tillämpning av tekniken.
  • Sverige behöver en stark koppling mellan forskning, högre utbildning och innovation inom AI.

Dels genom att sammafatta kapitlet "Utbildning"; för att dra nytta av AI och säkerställa etisk användning krävs AI-kunskaper, inklusive cybersäkerhet, på olika platser. Utbildning, interdisciplinaritet, livslångt lärande och samverkan betonas som viktiga:

  • Tillgång och spridning av AI-kunskaper i samhället för att dra nytta av tekniken.
  • Etisk, säker och hållbar användning av AI.
  • Behovet av interdisciplinärt kunnande för att säkerställa etisk användning av AI.
  • Betydelsen av livslångt lärande och fortbildning inom AI.
  • Samverkan mellan forskning, högre utbildning och innovation inom AI för att möta teknik- och samhällsutvecklingens krav.