CORE024 Etika a informační technologie

Etický přístup je klíčovým prvkem pro udržitelný a zodpovědný vývoj informačních technologií. To, jak etiku ve vztahu k informačním technologiím vnímá Mgr. Tomáš Foltýnek, Ph.D., zakladatel a vyučující předmětu CORE024, a jakým způsobem byl na základě toho vytvořen tento předmět, nám prozradil on sám v krátkém rozhovoru.

Předmět CORE024 Etika a informační technologie budete učit letos potřetí. Co vás vedlo k jeho vytvoření?

Informační technologie jsou nedílnou součástí života každého z nás a umí toho stále více a více. Jsou nejen stále rychlejší a propracovanější, ale také invazivnější. Mnohdy si ani neuvědomujeme, že za aplikace „zdarma“ ve skutečnosti platíme vysokou cenu v podobě našich údajů a narušení našeho soukromí. Kromě otázky co je technicky možné, bychom si tak měli pokládat i otázku, co je ještě přínosné pro nás jako jednotlivce a pro společnost jako celek. Mnoho společenských problémů souvisejících s využíváním IT by vůbec nevzniklo, kdyby se vývojáři hned na začátku zamysleli nad společenskými důsledky toho, co vytvářejí.

Je dnes potřeba nad etickými tématy v kontextu IT přemýšlet více než v minulosti?

Uvažování nad etikou IT je obzvláště důležité v době široké dostupnosti nástrojů generativní umělé inteligence. Ta může sloužit jako skvělý nástroj, který nám pomůže získat inspiraci, lépe formulovat myšlenky, nebo za nás udělá nudné a neproduktivní úkoly. Ale také je to mocná zbraň v informační válce – generátor fake news, zmanipulovaných fotografií, zvuku nebo videa. Informační technologie – a generativní AI obzvlášť – zkrátka multiplikují schopnosti svých uživatelů – ty dobré, i ty špatné. Mnohdy není rozlišení dobrého a špatného úplně přímočaré, často si neuvědomujeme všechny důsledky toho, co děláme. Smyslem tohoto předmětu je, abychom se naučili nad těmito důsledky přemýšlet a využívali informační technologie způsobem, který je co nejvíce prospěšný a generuje co nejmenší újmu.

Čím konkrétně se v předmětu zabýváte?

V rámci předmětu se zabýváme etickým nakládáním s daty, sociálními médii, šířením dezinformací, cenzurou, zkreslováním informací v algoritmech, etickým hackingem i zmíněnou etikou umělé inteligence. Letos na jaře, když byl ChatGPT horkou novinkou, dostali studenti za úkol vyzkoušet si, jak dobře dokáže ChatGPT vypracovat úkoly z jimi zvoleného předmětu. Vesměs odevzdali skvělé práce, většinu z nich jsem přeposlal vyučujícím dotčených předmětů. Úspěšnost ChatGPT se velmi lišila. Eseje dokáže psát docela obstojně, ale na matematických důkazech a statistice těžce pohořel. Jsem zvědavý, jak moc se situace do příštího běhu předmětu změní.

Jak vypadá výuka předmětu?

Přednášky rozhodně nemají podobu frontálního výkladu. Na každé přednášce je prostor pro diskusi nad kontroverzním tématem. Cílem diskuse přitom není dojít ke správnému řešení (to mnohdy ani neexistuje), ale nalézt argumenty pro různé postoje a dokázat je obhájit. Na každé přednášce si také zahrajeme Dilemma Game – hru, kterou vytvořili kolegové na Erasmus University v Rotterdamu pro výuku vědeckovýzkumné etiky. Hráči jsou postaveni před morální dilema – situaci, která nemá správné východisko. Dostanou 4 možnosti, z nichž si musí jednu vybrat. Poté se vede diskuse, v níž padají argumenty pro a proti jednotlivým možnostem. Hráči přitom mají možnost přejít do jiné skupiny, pokud je jejich argumenty přesvědčily (i když musím připustit, že toto se stává velmi zřídka, hráči se spíše snaží obhájit svůj postoj).

Co je potřeba udělat pro zdárné ukončení předmětu?

Ukončení předmětu je velmi flexibilní. Je potřeba získat v součtu 60 bodů a je do značné míry na studujících, za co body získají. Polovina z tohoto počtu se dá získat účastí na přednáškách a aktivním zapojením do diskuse. Dalších 20 bodů je za analýzu využitelnosti ChatGPT ve zvoleném předmětu. Stejný počet bodů je možné získat za prezentaci zvoleného tématu na přednášce. Další body je možné získat za sdílení odkazů na zajímavé články nebo videa. Loni bylo možné psát i esej, ale ještě nevím, jestli tuto možnost ponechám, anebo ji nějak neupravím. Přeci jenom, pokušení nechat si esej vygenerovat umělou inteligencí je příliš velké. :-)

Moc děkujeme za rozhovor.

Věda a společnost jsou spolu neodmyslitelně spjaty. Zajímavé informace o předmětu CORE072 nám odhalila Mgr. Helena Durnová, Ph.D.!

Jaké je pojetí předmětu Věda a společnost?

Kurz "Věda a společnost" jsme pojali jako objevování vztahu mezi vědou a společností. Proč je současná věda úspěšnější než minulá? Jaká je spolehlivost vědeckých předpovědí? A proč jsou etická pravidla výzkumných institucí tak klíčová? V kurzu se zprvu ponoříme do minulosti, abychom porozuměli tomu, jak se vědecké teorie staly úspěšnými. Prozkoumáme konkrétní příklady, které ukazují, jak se poznání vyvíjelo ve vědu a proč vědecké závěry nyní považujeme za důvěryhodné. Zkoumáme, jak věda hledala vysvětlení různých problémů a proč je pro naše chápání světa podstatná. Ale nejde jen o teoretické zkoumání vědy. Kurz se také zabývá společenskou odpovědností vědců. Diskutujeme o tom, jakým výzvám a dilematům vědci čelí a jaký vliv může mít jejich práce na společnost. Například poukazujeme na to, proč je důležité, aby výzkumné instituce měly přísná etická pravidla nebo na stále se prohlubující specializaci (nejen) ve vědě. Jednotlivci vystupují jako experti, ptáme se tedy, jak tito experti ovlivňují rozhodování společnosti. V kurzu "Věda a společnost" cestujeme i do historie. Studentům ukazujeme hranice poznávání a objevování v dějinných epochách. A postupně skládáme vize o tom, jak věda může čelit problémům ve 21. století.

Účastníci kurzu se setkají s tématem vztahu vědy a společnosti z pohledu vědců z oblasti přírodních věd i z oblasti věd humanitních. Dostane se jim také ochutnávky oboru historie a filozofie vědy.

Jaká byla Vaše motivace pro vznik předmětu Věda a společnost a kdo se s vámi na předmětu podílí?

Iniciativa vzešla od jedné z vyučujících předmětu – RNDr. Jindřišky Svobodové, Ph.D. – která dlouhodobě spolupracuje s prof. RNDr. Janem Novotným, CSc., což je jeden z předních českých relativistů, takový renesanční člověk, člověk s velkým rozhledem. Tito dva spolu učí předmět Jak pracuje věda (k předmětu existuje i kniha). Na základě této zkušenosti Jindřiška Svobodová přišla s nápadem, že by bylo fajn mít předmět tohoto typu a nabízet studentům napříč MU.

Já se zabývám dějinami matematiky, dějinami výpočetní techniky a vlastně obecně dějinami vědy. Domnívám se, že předmět, který by se týkal dějin vědy, na univerzitě citelně chybí. Motivací pro zařazení přednášek o dějinách vědy byl fakt, že skrze dějiny se toho dá spousta ukázat. Možná to zní morbidně, ale díky tomu, že aktéři jsou často už po smrti, se o jednotlivých událostech dá snáze mluvit. Na historickém příkladě se dá ukázat nejen to, před jakými rozhodnutími vědci stáli, ale také to, jaké důsledky jejich rozhodnutí mělo.

Dále je do výuky předmětu zapojený RNDr. Michal Černý, Ph.D z Filozofické fakulty MU. Zabývá se informatikou a záležitostmi souvisejícími s bibliografií, etikou publikování a také její metrikou, tedy, jakým způsobem se měří produkce vědy. V neposlední řadě se věnujeme i problematice výzkumu v sociálních vědách, kterému se věnuje Mgr. Ivana Medková, PhD. Ta ve své přednášce ukazuje, jakým způsobem probíhá v dnešní době výzkum v sociálních vědách.

Ještě mi dovolte poznámku k historii. Například historik vzdělávání Wilfried Göttliche říká: „Uvědomme si, že historie je jediná věda, která si nevytváří svoje vlastní data. Historik může zacházet jenom s tím, co nám zbylo ať už omylem, nebo tím, že to někdo začal sbírat.” Fotka je, protože ji někdo udělal a kdyby ji neudělal, tak bychom to nevěděli. Toto je v kontrastu s tím, jak probíhá výzkum v pedagogice, kde se tvoří dotazníky a celé to zkoumání vlastně pracuje s tím, že si výzkumníci vytvářejí vlastní data tím, že se lidí ptají. Je to vlastně úplně jiná metoda než v historii, kde prostě musím pracovat s tím, co mi zbylo. Musíme se vypořádat s tím, že některé dopisy nemáme. Viděli jsme to nedávno ve filmu Oppenheimer (rok vydání: 2023), že? Ten závěrečný rozhovor mezi Oppenheimerem a Einsteinem je z pochopitelných důvodů fiktivní.

Učíte někdy i v tandemu, nebo máte každý svoje témata, která vyučujete? Jakým stylem vaše spolupráce probíhá?

V prvním semestru jsme si témata rozdělili (je nás 5, tak na každého vychází 2-3 přednášky), jelikož je to organizačně jednodušší, ale některé přednášky děláme třeba napůl. Vyloženě tandemově nás to bude čekat možná až v příštím semestru. Osnova zůstává stejná, ale nabídneme během jedné přednášky dva pohledy na totéž. Plánujeme to u tématu Co znamená myslet. Myšlenka je taková, že RNDr. Michal Černý, Ph.D. si vezme obecné povídání o tom, co znamená myslet. Já se potom budu konkrétně věnovat tomu, co to znamená myslet podle matematika Alana Turinga (1912-1954).

Vy jste teď nastínila dost věcí, na co se mohou studenti ve vašem předmětu těšit a my bychom se ještě rády zeptaly, jak byste studenty na váš předmět nalákala? Proč by si jej měli zapsat?

Já bych studentům především vzkázala, aby se nelekli toho názvu, protože jsem nedávno dostala zpětnou vazbu, že se předmět tváří velice odborně. Dalším lákadlem by mohl být fakt, že pokud se vám líbí film Oppenheimer, tak u nás se dozvíte víc takových příběhů.

Jak probíhá hodnocení předmětu?

U hodnocení jsme v první fázi diskutovali o tom, jakým způsobem to udělat, protože předmět je určen pro studenty různých programů (stejně jako další CORE předměty). Chtěli jsme jim nechat volnost, aby se na téma podívali a zpracovali si ho pro sebe takovým způsobem, který jim vyhovuje. Stejně je to i u nás vyučujících – pro jednoho je příjemnější číst eseje, pro druhého si s člověkem povídat. Vlastně všichni jsme takoví – někdo má strach z ústní zkoušky, někdo má strach naopak ze zkoušky písemné, takže my jsme studentům umožnili, aby si mohli vybrat, protože nejde o formu zkoušení, ale o předávání poznatků. Proto jsme chtěli skutečnost, že CORE předměty jsou nabízeny různým studentům s různými preferencemi, odrazit v metodě hodnocení. Předmět je ukončen kolokviem, takže je to jednoduché (prošel, neprošel) – řekli jsme si, že nemusíme mít stejný metr pro všechny, že můžeme každého jednotlivě posoudit, zda se dostal na nějakou úroveň znalostí (zda se hlouběji podíval na to, jak věda a společnost spolu navzájem (ne)fungují). Nakonec jsme vytvořili odpovědníky, ve kterých se studenti mohli vyjadřovat k různým otázkám slovně, napsat nějaké hodnocení. Případně tuto variantu mohli nahradit tím, že se účastnili přednášky a následné diskuze, čímž také splnili podmínky pro ukončení předmětu, jelikož se aktivně účastnili výuky.

Již jste zmínila, že CORE předměty si zapisují studenti z různých oborů a každý je zvyklý na jiný přístup, a to nejen v rámci hodnocení. Přistupujete k tomu nějakým zvláštním způsobem i v rámci obsahu předmětu? Přizpůsobujete výuku tomu, že se tam nachází studenti z různých oborů?

Ano, samozřejmě. Náš cílový posluchač je v podstatě tzv. „šikovný maturant“. To znamená, že všechny naše přednášky by měly být vedené tak, aby člověk, který má maturitu, tomu rozuměl. Takže se vlastně jedná o 12 popularizačních přednášek. Většinou jejich součástí nejsou např. vzorečky nebo se k nim dostaneme, ale nezkoušíme z nich, popř. studenty pouze navedeme na odbornou literaturu. To znamená, že pro někoho, kdo chce nahlédnout více do hloubky, to může být nedostačující, ale to už je třeba řešit nějakým jiným předmětem. Jak jsem řekla, moje osobní nastavení k tomu je takové, že dělám popularizační přednášku.

V interaktivní osnově předmětu jsme se dočetly, že předmět je vhodný primárně pro studenty bakalářského programu. Je vhodné jej absolvovat i v rámci magisterského studia?

V podstatě všechny CORE předměty jsou mířeny na studenty bakalářských programů. Ti nově nastupující si nyní musí zapsat a úspěšně ukončit 3 předměty z této kategorie. A tím, že cílíme na tuto skupinu studentů (na ty „šikovné maturanty“, jak jsem to nazvala), tak si osobně myslím, že i pro studenty magisterského studia to vhodné je (náš předmět magistři navštěvovali), ale vlastně na druhou stranu to vnímám tak, že čím je člověk ve studiu výš, tak tím víc se chce specializovat a už nemusí mít o obecně pojatý předmět takový zájem. Já bych jim nebránila v tom, aby přišli, to vůbec ne, jen se domnívám, že by to pro ně mohlo být málo náročné.

Moc děkujeme za rozhovor.