První přednáška dne 19.9.2023 byla koncipována na dvě části. V první polovině byly zmíněny organizační informace předmětu ISKM31, druhá polovina se zaobírala úvodním zasvěcením do problematiky AI a prvním úkolem.

Před samotným úvodem do AI je dobré se zamyslet, co znamená myslet? Stejnou otázkou se zaobírá přednáškový cyklus „Co znamená myslet?“ od Martin Heideggera, který uvádí, že nejpovážlivější v této povážlivé době je to, že ještě nemyslíme.. Může se na tom zdát depresivní to, že je populace „hloupá a nemyslí“, ale optimistické může být, že pokud začne myslet, čeho dosáhne? Posune se dále, například technologicky, ale i duševně? Co znamená myslet? A jak to technizovat? Dle odpovědi na tuto otázku jsme schopni určit, jak má vypadat optimální edukační proces - co je v něm důležité.

Další důležitou otázkou je, co je inteligence a jak ji klasifikovat? Odpověď na otázku „Co je inteligence?“ není jasná. Samotná psychologie nemá v této problematice jasno a řada definic jsou spíše zaměřené na vývoj, poruchy, či další dílčí „okrajové“ oblasti definice inteligence. Nejjednodušší forma definice „inteligence“ je, že se jedná o schopnost řešit problémy.

Co se týče tématu umělé inteligence, dnešním trendem jsou tzv. generativní AI, které generují/vytváří obsah. Mezi tyto umělé inteligence lze zahrnou modely využívané například na chatGPT a nebo Midjourney. Každá umělá inteligence je přizpůsobena na konkrétní způsob zpracovávání a interpretací informací, kdy výstupy (a také i vstupy) jsou ovlivněny využitým konkrétním typem modelů. Příkladem mohou být jazykové modely AI schopné psát literární díla, překládat a podobně.

Základním stavebním prvkem AI je umělá neuronová síť, která je inspirovaná strukturou a fungováním lidského mozku. Tato síť je složena z umělých neuronů, které spolu komunikují a provádějí složité úkoly. Umělou neuronovou síť si lze představit jako program, který se učí, jak řešit různé úkoly, třeba rozpoznávání obrazů nebo překlad textu. „Umělé neurony“ jsou navzájem propojené a spolu komunikují.

Jak tyto neurony komunikují? "Neuron" přijímá určité informace, třeba čísla, a potom provádí matematické operace na těchto vstupních číslech. Výsledek těchto operací je další číslo, které se stane vstupem pro další neurony. To se děje pořád dokola, dokud síť neprodukuje požadovaný výsledek. Síť se tedy učí (respektive snaží se simulovat učení).

Co k tomu říci? Neuronová síť je však tak dobrá, jak jsou kvalitní vstupní data k učení. Pokud se neuronová síť učí ze špatných dat, nebude AI efektivní.

1. ÚKOL: Osobní pohled na AI a etické otázky s ní/nim/tím spojené

Z osobního pohledu vnímám AI jako velice užitečného pomocníka, nikoli mého nástupce. S AI se snažím pracovat od doby, kdy nebyla z medializovaná. Její uplatnění jsem viděl jako rádce při vývoji aplikací k vyhledávání chyb, optimalizace kódu či generování celých fragmentů kódů. Nabízí se tímto etická otázka, pokud AI umí řešit (nejen) tuto problematiku, nehrozí náhodou, že některé pozice zcela nahradí – například programátory, textaře a podobně? Nebude se jednat o našeho nástupce?

Není to tak dávno, kdy ve zprávách varovala Organizace pro hospodářskou spolupráci a rozvoj (OECD) na etické problémy, kdy s AI hrozí zánik řady pracovních míst (Zdroj: Novinky.cz). V jisté logice věci mohou být v ohrožení programátoři, textaři a různé konzultační činnosti. Ze svého subjektivního pohledu mohu konstatovat, že zatím se není čeho obávat. Proč jsem si tak jistý? Důvodem je, že AI je tak dobré, jako jsou dobrá vstupní data, podle kterých se učí. Tedy pokud některé z problematik nerozumím alespoň okrajově a dotazuji se na něco AI, nedosáhnu požadovaného výsledku. Dalo by se skoro „laicky“ říct, že AI plnohodnotně efektivně samostatně nemyslí. Ve finále se nedá na AI 100% spoléhat a v případě využití při různých konzultačních otázkách (jak zpracovat daně apod) je dobré se obrátit na opravdové a „živé“ odborníky ve svém oboru.

Ve svém „menším výzkumu“ jsem narazil na úskalí, že jsem se požadovaného výsledku dočkal až po několika hodinách s vyčerpávajícími „prompty“ (vstupními daty/dotazy), které byly na technické úrovní. Ve finále, když jsem se nad tím zpětně zamyslel, jsem docílil k závěru, že pokud bych programování nerozuměl, AI by mi celou funkční aplikaci nevygenerovalo.

Čím je tato neefektivita spojena? Neefektivitu může způsobit řada faktorů, avšak nejvíce problémový může být způsob učení AI a kvalita vstupních dat. Uveďme praktický příklad: Představme si situaci, kdy AI provádí sběr jablek. AI je naučeno podle „něčeho“ rozpoznat jablka, které má sbírat. Tím může být například červená barva. Pokud je AI naučeno rozpoznávat jablko podle barvy, může snadno splést jablko s jiným červeným předmětem – neuvažuje jako člověk a tím se „jeho/její“ chování odráží. AI se samozřejmě může doučit, že má rozpoznávat jablko dle dalších údajů, například tvaru, jenže těchto situací může nastat více a více. Pokud může mít AI takovéto problémy, je dobré je umisťovat do kritických situací, jako řízení leteckého provozu a podobně? Je AI opravdu tak dobré a máme se obávat, nebo jsou různé etické otázky jen plachý poplach?

Další problém, na který je dobré poukázat je, že žáci si mohou usnadňovat studium generováním domácích úkolů – například generováním slohových prací. Tento způsob studia pak velmi zastiňuje schopnosti žáků vlastní kreativity a odrazí se i do dalšího vzdělání/praktického života. Jak s touto situací naložit? Ideálně nezavrhovat a udělat kompromis. Například směřovat výuku na dvě části, kdy v první si žáci napíší slohou práci sami a v druhé části provedou revizi přes generativní AI. Následně by žáci mohli porovnat obě verze (svoji a upravenou od AI) a stanovit závěr, která práce je lepší, včetně rozdílů.

Co říci na závěr? AI by určitě neměla nahrazovat lidskou činnost (minimálně ne tu, na které závisí lidské životy), ale měla by sloužit jako pomocník/asistent. Důvodem je, že i když člověk nezná všechny fyzikální poučky, či není schopen rychle vypočítat velké objemy dat, tak je stále lidský mozek komplexní „zařízení“, kterému se dnešní podoba AI zcela nepodobá. Samozřejmě my/lidé děláme chyby a AI nás může na ně upozorňovat. Společně, nikoli samostatně, lze docílit velkých civilizačních pokroků. V rámci vzdělávání je potřeba poukazovat na tuto skutečnost a zdůrazňovat, že se jedná o pomocníka, nikoli nepřítele. Také je dobré ve vzdělávání směřovat na tvorbu vlastních prací a generativní AI využít maximálně na finální korektury.

Zdroj:
Etické problémy i rušení pracovních míst. OECD varuje před umělou inteligencí. In: Novinky.cz [online]. Londýn: Miloslav Fišer, 2023, 13. 7. 2023, 11:5 213. Dostupné z: https://www.novinky.cz/clanek/internet-a-pc-software-eticke-problemy-i-ruseni-pracovnich-mist-oecd-varuje-pred-umelou-inteligenci-40437634