AI-verktyget ska ersätta lärare i rättningen: ”Juridiska problem”

Att låta AI stå för rättning av prov som ligger till grund för betygen strider mot skollagens paragraf 3:16, att det är läraren som sätter betyg.

En AI som rättar strider även mot principer för god myndighetsutövning.

Då ska AI förbjudas i skolan

Regeringens försiktighet i implementeringen av AI i skolan är klok, men bör kompletteras med ett förbud mot AI-lösningar som saknar vetenskapligt stöd eller som strider mot skollagen. Annars riskerar girighet, inkompetens och förändringslusta att tillfoga skada för elevers utbildning.

Edtech-företaget Gradr, som tidigare väckte uppmärksamhet när de begärde ut lärares prov och bedömningar med stöd av offentlighetsprincipen, har nu lanserat en AI-modell som påstås kunna ersätta lärarens rättningsarbete.

Metoden som användes för att samla in träningsmaterial väckte stark moralisk kritik, eftersom den uppfattades som ett sätt att exploatera både lärarnas arbete och offentlighetsprincipen. Moral har dock aldrig varit ett hinder för aktörer på skolans marknad.

Problemen med AI-verktyg i skolan

Det finns flera professionella, etiska och juridiska problem med att använda ett program som Gradr.

För det första är betygssättning myndighetsutövning. Enligt skollagen (3 kap. 16 §), är det läraren som sätter betyg – inte en algoritm.

När rättning och bedömning delvis eller helt överlåts till ett AI-system uppstår därför en rättslig gråzon där ansvaret blir otydligt. Vem bär ansvaret om en elev felbedöms? En maskin kan inte ställas till svars inför vare sig elev, vårdnadshavare eller samhälle.

För det andra hotas grundläggande principer för god myndighetsutövning: legalitet, objektivitet, rättssäkerhet och ansvar.

Läraren kan motivera sitt beslut och ta hänsyn till elevens utveckling och genomförd undervisning, något en AI utan insyn inte kan.

”Saknas vetenskapligt stöd”

Gradr påstår att deras rättning är objektiv – men det är en logisk motsägelse, eftersom det material som modellen tränats på i grunden bygger på mänskliga, subjektiva bedömningar som inte bör friställas från den undervisning som läraren genomfört.

För det tredje saknas vetenskapligt stöd för att maskininlärning kan ersätta professionellt omdöme i pedagogiska bedömningar. Att införa sådana system utan vetenskapligt underlag är ansvarslöst.

Det vittnar om en övertro på teknikens förmåga i ett område som borde präglas av omdöme och bildning.

EU: ”Hög risk”

Även enligt EU:s AI Act är Gradrs verksamhet problematisk. AI-system som används för bedömning av elever klassas som så kallad ”hög-risk-AI”.

Övertro på teknikens förmåga

Det innebär att systemen måste vara fullt transparenta, kunna förklaras i efterhand och alltid stå under mänsklig övervakning.

EU-lagstiftningen bygger på en central princip: ansvaret kan aldrig överlåtas till tekniken. Det är alltid människan, i det här fallet läraren, som är ansvarig för beslutet.  En algoritm som självständigt rättar elevsvar utan att lärare kan förstå, förklara eller granska beslutsprocessen uppfyller inte dessa krav.

”Stöd för idéer”

AI kan fungera som ett bollplank för lärare som vill använda det, ett stöd för idéer, analys eller inspiration, men aldrig som en ersättning för professionellt omdöme.

Oreglerad AI-användning har ingen plats i skolan, och ansvaret för elevers betyg måste alltid ligga hos läraren.

Regeringen gör därför rätt i att utesluta skolan från AI-kommissionens färdplan, men bör även låta kontrollera skolmarknaden så att inga oprofessionella AI-verktyg används.

Rickard Öhman, lärare i filosofi och historia

LÄS ÄVEN:

Sveriges Lärare: Prov är sekretessbelagda

Boktips: 3 böcker om AI i skolan

Var femte lärare använder AI i undervisningen

Forskaren: Lärare behöver mer inflytande över AI