Kõik kursused

Tehnoloogia eetika ja vastutustundlik tehisintellekt

Juhtumi- ja katsepõhine kursus algoritmilisest eelarvamusest, andmekaitsest, tehisintellekti regulatsioonist ja autonoomsete süsteemide vastutusest. Keelemudelite käitumist ei võeta väitena – seda kontrollitakse ise: hallutsinatsioon kutsutakse esile, väljamõeldud allikas püütakse kinni, kallutatus mõõdetakse.

Kursus lõpeb meeskondliku eetikaanalüüsi ja väitlusega, kus iga keelemudeli leitud allikas on enne kontrollitud.

kursuse üldandmed
kursus:Tehnoloogia eetika ja vastutustundlik tehisintellekt
suunamoodul:Inseneeria ja tehisintellekt · G2 · 1. kursus
maht:21 õppetundi (35 akadeemilist tundi)
eeltingimus:G1 kursus „Tehisintellekt ja füüsika inseneerias“
praktikat:17 tundi 21-st – katsed, juhtumid, väitlus
hindamine:arvestatud / mittearvestatud
0õppetundi35 akadeemilist tundi · 75 min
0teemaplokkikeelemudel, eelarvamus, andmekaitse, regulatsioon, autonoomia
0tundi praktilise tööga21-st · katsed, juhtumid, väitlus
0keelemudelit kõrvutipilves ja kohalik

Kursuse teemad

Tehnoloogia ja eetikaHallutsinatsioonKohalik ja pilves mudelAlgoritmiline eelarvamusAndmekaitseDigijalajälgEL tehisintellekti määrusAutonoomsed süsteemidVäitlusFaktikontroll
Kursus

Juhtum → katse → tõend → seisukoht

Kursus algab lähiajaloo juhtumitest, mis näitavad, miks tehnoloogia vajab eetikat. Seejärel katsetatakse keelemudelitega ise: kuidas hallutsinatsioon tekib, mis vahe on kohalikul ja pilves mudelil, kuidas leida kallutatust vastustest. Andmekaitse, Euroopa Liidu tehisintellekti määrus ja autonoomsete süsteemide vastutus läbitakse rollimängu, liigitusülesannete ja struktureeritud väitluse kaudu.

KATSE · MUDEL

Keelemudel katsealusena

Hallutsinatsiooni esilekutsumine, väljamõeldud allika püüdmine, kahe mudeli võrdlus, treeningandmed ja mudeli piirid. Kallutatuse katse dokumenteeritakse tõendina; lõputöös katse kohaliku mudeliga, kus andmed jäävad majja.

  • Hallutsinatsioon
  • Kallutatus
  • Kohalik mudel
ÕIGUS · ANDMED

Andmekaitse ja regulatsioon

Isikuandmete kaitse üldmääruse põhimõtted, oma digijalajälg, rakenduste õiguste kriitika, tehisintellekti määruse riskikategooriad ja näidissüsteemide liigitamine rollimängus arendaja–kasutaja–regulaator.

  • Andmekaitse
  • Riskikategooriad
  • Rollimäng
ARUTELU · VASTUTUS

Dilemma, väitlus, seisukoht

Autonoomsete süsteemide dilemmad transpordis, kaitses ja meditsiinis; struktureeritud väitlus, kus argumendid toetuvad kontrollitud allikatele ja faktikontroll on väitluse osa.

  • Dilemmad
  • Väitlus
  • Allikad
Ülesehitus

Kursuse ülesehitus

Esimesed üheksa tundi on katsed ja juhtumid – keelemudel, eelarvamus, andmekaitse –, kümnes on teadmiste kontroll. Seejärel regulatsioon ja autonoomsed süsteemid, õppekäik ning meeskondlik lõputöö koos esitluse ja väitlusega. Tundide ülesanded, tehisintellekti tugi ja mõttepäevik avanevad pärast sisselogimist.

Lõiming: väitluse formaat ja rollid kooli väitluskursusest ja arutleva kooli liikumisest; statistika ja tõenäosus juhtumite kallutatuse hindamisel.

Kava on arendusjärgus – seda täpsustatakse piloteerimise käigus ja see valmib lõplikult 2028. aasta lõpuks.

1.tund

Miks tehnoloogia vajab eetikat: juhtumid lähiajaloost; kursuse töövormid ja mõttepäeviku alustamine.

2–3.tund

Kuidas suur keelemudel (SKM) töötab ja eksib: hallutsinatsiooni esilekutsumine, väljamõeldud allika püüdmine, kahe mudeli võrdlus.

4–5.tund

Kust keelemudeli teadmine tuleb: treeningandmed, mudeli piirid, kohaliku ja pilves mudeli erinevus andmete liikumises; katse kahe mudeli samal sisendil.

6–7.tund

Algoritmiline eelarvamus: dokumenteeritud juhtumid (värbamine, näotuvastus, krediidiotsused) ja oma katse kallutatuse leidmiseks keelemudeli vastustest.

8–9.tund

Andmekaitse ja privaatsus: isikuandmete kaitse üldmääruse põhimõtted, oma digijalajälg ja rakenduste õiguste kriitika; autorlus tehisintellekti ajastul.

10.tund

Teadmiste kontroll: etteantud juhtumi kirjalik analüüs; tõendatud ja kontrollimata väidete eristamine.

11–12.tund

Euroopa Liidu tehisintellekti määrus: riskikategooriad, rollimäng arendaja–kasutaja–regulaator, näidissüsteemide liigitamine.

13–14.tund

Autonoomsed süsteemid ja vastutus: dilemmad transpordis, kaitses ja meditsiinis; struktureeritud väitlus (jaatajad ja eitajad, rollid ja täpsustavad küsimused) kooli väitluskursuse kogemusel.

15.tund

Õppekäik asutusse või ettevõttesse, kus tehisintellekti kasutatakse otsuste tegemisel (andmekaitse, tervishoid, avalik sektor).

16–19.tund

Lõputöö: meeskondlik eetikaanalüüs valitud tehnoloogia kohta – probleem, osapooled, riskid, järeldused; katse kooli tehisintellekti labori kohaliku keelemudeliga, kus andmed jäävad majja; iga keelemudeli leitud allikas kontrollitakse.

20.tund

Lõputööde esitlused ja väitlus; faktikontrolli roll väitluses.

21.tund

Kokkuvõte ja refleksioon: mõttepäevikute põhjal ühine arutelu, kus ja kuidas keelemudel eksis.

Õpitulemused

Kursuse läbinud õpilane

Viis õpitulemust kahes rühmas: tehnoloogia ja õigus ning tehisintellekt ja kontroll.

G2 · Tehnoloogia eetika ja vastutustundlik tehisintellekt

01Tehnoloogia ja õigus

  • selgitab lihtsustatult keelemudeli tööpõhimõtet ning erinevust kohaliku ja pilveteenusena pakutava mudeli vahel;
  • rakendab isikuandmete kaitse põhimõtteid ja liigitab tehisintellekti süsteeme riskitaseme järgi;
  • argumenteerib eetilises arutelus kontrollitud allikatele toetudes;

02Tehisintellekt ja kontroll

  • kavandab katse algoritmilise eelarvamuse leidmiseks ja dokumenteerib tulemuse tõendina;
  • tunneb ära hallutsinatsiooni, väljamõeldud allika ja kallutatuse ning kontrollib väiteid enne kasutamist.
Pedagoogilised põhimõtted

Neli põhimõtet

Õppimine algab õpilase enda mõtlemisest, tehisintellekt on abiline ja iga selle väljund saab kontrolli. Usutavus ei ole tõesus – arvutus võib olla korrektne, aga järeldus vale.

Õppijakeskne lähenemine

  • Mõtlemisaeg enne SKM-i – keelemudel ei anna vastuseid enne, kui õpilane on ise püüdnud probleemi lahendada.
  • Vigade väärtustamine – eksimused on õppimise loomulik osa; vead dokumenteeritakse ja analüüsitakse.
  • Aeglane ja sügav õppimine – pigem vähem teemasid põhjalikult kui palju pinnapealselt.
  • Õpitu ülekanne – iga teema juures küsitakse, kus veel võiks õpitut kasutada.

SKM kui Sokrates, mitte oraakel

  • SKM selgitab ja küsib – keelemudel toetab õppimist küsimuste ja selgitustega, mitte valmis vastustega; mõnes harjutuses seatakse SKM küsivasse režiimi.
  • Mitme mudeli paralleelkasutus – vähemalt kaks keelemudelit, vastuste võrdlus.
  • Õpilane seletab SKM-ile – mõiste selgitamine keelemudelile nii, et see saaks aru ja annaks tagasisidet.

Kontrolli enne usaldamist

  • Kontroll igas tunnis – tehisintellekti väljundit kontrollitakse arvutuse, mõõtmise, katse, simulatsiooni või ametliku allika abil.
  • Infoallikas ja soovitaja on eri rollid – soovitusi hinnatakse kokkulepitud kriteeriumide (sobivus, ohutus, kulu, teostatavus) alusel.
  • Usutavus ei ole tõesus – veenev vorm ei ütle midagi sisu õigsuse kohta.

Mõttepäevik

  • Iga õpilane peab mõttepäevikut – üks sissekanne tunni kohta: vastus tunni küsimusele, kus tehisintellekt eksis ja kuidas seda kontrolliti, mis jäi arusaamatuks.
  • Püsiküsimus igas tunnis: „Kus keelemudel täna eksis ja kuidas ma selle tuvastasin?“
Hindamine

Arvestatud / mittearvestatud

Kursus on mitteeristava hindamisega. Hinnatakse protsessi, pingutust ja arengut, mitte üksnes lõpptulemust. Vihjete, juhendite ja keelemudeli kasutamine ei mõjuta hindamist – ka tehisintellekti vea leidmine ja dokumenteerimine on väärtuslik õpitulemus.

ARVESTUSE TINGIMUSED
  1. Osalus vähemalt 80% tundidest – puudumisel järeltöö või iseseisev ülesanne.
  2. Kõik praktilised tööd esitatud – katsed keelemudelitega, juhtumianalüüsid, liigitusülesanded koos tõenditega.
  3. Teadmiste kontroll (10. tund) sooritatud – etteantud juhtumi kirjalik analüüs.
  4. Mõttepäevik – vähemalt 10 sisukat sissekannet.
  5. Lõputöö esitatud, esitletud ja väitluses kaitstud – meeskondlik eetikaanalüüs koos kontrolliprotokolliga.
Mittearvestatud töö parandatakse õpetaja määratud tähtajaks
MÕTTEPÄEVIKU SISSEKANNE
  1. Tunni küsimus – üks küsimus tunni kohta; vastus oma sõnadega
  2. Kus keelemudel täna eksis ja kuidas ma seda tuvastasin? – ka „viga ei leitud“ on tulemus, kui kontroll tehti
  3. Mis jäi arusaamatuks? – küsimused järgmiseks tunniks
LÕPUPROJEKT

Meeskondlik eetikaanalüüs

Meeskond valib tehnoloogia ja koostab eetikaanalüüsi: probleem, osapooled, riskid, järeldused. Iga keelemudeli leitud allikas kontrollitakse ja kontroll dokumenteeritakse. Lõputöö esitletakse ja kaitstakse struktureeritud väitluses, kus faktikontroll on osa väitlusest. Iga liikme panust hinnatakse eraldi.

Praktilised töödHallutsinatsiooni ja kallutatuse katsed dokumenteeritud tõendina, juhtumianalüüsid, näidissüsteemide liigitus riskikategooriatesse.
Teadmiste kontrollEtteantud juhtumi kirjalik analüüs; tõendatud ja kontrollimata väidete eristamine.
MõttepäevikÜks sissekanne tunni kohta: tunni küsimus, keelemudeli viga ja selle tuvastamine, mis jäi arusaamatuks.
TagasisideSuuline tagasiside tunnis, kirjalik mõttepäevikule, kaaslaste tagasiside väitluses, lõputöö tagasiside.
Vahendid

Mida kursusel kasutatakse

Vahendid on kirjeldatud liigi, mitte toote kaupa – kool valib konkreetsed seadmed ja keskkonnad ise.

Juhtumianalüüside kogumik
Euroopa Liidu tehisintellekti määruse ja isikuandmete kaitse üldmääruse tekstid
Vähemalt kaks suurt keelemudelit
Kooli tehisintellekti labor (arvutikomplekt kohaliku keelemudeliga)
Arutelu- ja väitlusjuhendid

Sisselogimine

Kursuse rakendus avaneb sisselogimisel – valmimisel

Kooli Microsofti kontoga. Õpilane valib tunni, lahendab ülesandeid tehisintellekti toe ja soovitustega ning täidab mõttepäevikut. Õpetaja näeb ja muudab tundide ülesandeid ja kirjeldusi otse brauseris.

Avalik osa – kava, ülesehitus, õpitulemused ja hindamine – on loetav ilma sisselogimiseta.

Õpilasele

Tunni ülesanded, tehisintellekti vihjed ja kontroll, mõttepäevik – näed ainult oma vastuseid

Õpetajale

Ülesannete ja tunnikirjelduste muutmine, õpilaste vastuste ja päevikute ülevaade

Kõik kursused

saaremaa.edu.ee/iti