Potřebujeme přísahu pro data

09.02.2020 19:01

 

Bojíme se umělé inteligence budoucnosti, ale nerozumíme ani té současné, myslí si Gina Neffová, profesorka z Oxfordu. Studuje dopady velkých data a strojového učení na lidskou společnost. Pomoci by mohly lepší metafory, veřejná diskuze i rozumně nastavená pravidla. Řešit to musíme, než bude pozdě.

Co to vlastně je umělá inteligence? Řada lidí má pocit, že se pod tímto marketingovým označením skrývá nějaká sci-fi budoucnost plná robotů, kteří si s námi povídají, mají svou vlastní vůli a pomalu spřádají plány na vzpouru proti lidem. Jenže ve skutečnosti jsou neuronové sítě – což je přesnější termín pro umělou inteligenci – všude kolem nás.

Neuronové sítě už dnes rozhodují, jaké e-maily uvidíte a jaké spadnou do spamu. Strojové učení pomáhá sociálním sítím s výběrem obsahu, který vás zaujme. Méně lidí pak ví, že natrénovaná neuronová síť také rozhoduje v bance, komu dát půjčku a jak velkou, třídí životopisy pro velké firmy, radí policii s detekcí podvodů a soudcům navrhuje, koho pustit z vězení a koho tam nechat.

Strojové učení se zkrátka dotkne všech lidí a jeho důležitost bude v následujících letech ještě stoupat. Pro profesorku Ginu Neffovou je to důvod k tomu, abychom se jako společnost o tyto nové technologie mnohem více zajímali. Umělá inteligence se totiž může tvářit objektivně a nevyhnutelně, ve skutečnosti je výsledkem celé řady rozhodnutí. Nemělo by nám být jedno, kdo ta rozhodnutí dělá a jaká pravidla musí dodržet. Na britské ambasádě jsme se s výzkumnicí z Internetového institutu Oxfordské univerzity bavili o častých omylech týkajících se tématu nazývaného zkratkou „AI“.

Lidé mluví o tom, jak se připravit na umělou inteligenci budoucnosti. Přitom nejsme připraveni ani na tu, která už tu je. Bojíme se, že se nějaký robot vzbouří a zkusí ovládnout svět. Neuvědomujeme si – nebo přehlížíme – jak zkreslená jsou data, na základě kterých se učí současné rozhodovací modely.

Měli bychom se podívat na to, kde a jak sbírají systémy data, jak je analyzují a jaká rozhodnutí dělají. To je pro budoucnost nesmírně důležité.

Strojové učení dneška je velmi úzce specifikované, výzkumníci však doufají, že do budoucna dokážou model schopný řešit jeden typ problému relativně jednoduše přetrénovat na řešení jiného problému. Nyní všichni závodí hlavně o to, kolik dat nasbírají. Díky datům chtějí získat náskok před ostatními. A tak shromažďují třeba ohromné množství dat o lidském zdraví.

Potřebujeme lepší pravidla pro přístup a práci k datům. Tato data jsou často upravována a popisována externími firmami, je to dlouhý a finančně náročný proces.

V roce 2019 jsme s výzkumníky ze Silicon Valley hledali, jaké jsou hlavní hrozby v oblasti výzkumu a aplikace umělé inteligence. Jedna z oblastí, kterou identifikovali, byl rozdíl mezi očekáváním a realitou. Lidé mají často špatné, přehnané představy o tom, co umělá inteligence umí.

To může znamenat celou řadu problémů. Pokud si někdo myslí, že „umělá inteligence“ je superchytrý počítač, může mít tendenci jí přehnaně důvěřovat i ve věcech, kde je ta důvěra neopodstatněná. Když máme pocit, že umělá inteligence ví o světě více než lidé, můžete dát takovému systému pravomoc rozhodovat. Můžeme přehlédnout, jakých chyb se dopouští a proč.

Jako pedagogové a odborníci máme zodpovědnost vysvětlovat to, jak strojové učení funguje, a jaké problémy jsou s tím spojené. Jenom pak můžeme ukázat, když je někde chyba v automatizovaných rozhodovacích systémech.
 

Kontakt