ČT 24
Bylo mu šest let a začal jako programátor vytvořil webovou stránku, na které nabízel to, co vybral ze spíže své babičky.
Pak vytvořil mimo jiné aplikaci, která sbírala zprávy z vybraných webů nebo překladač ze znakového jazyka, do toho už na základní škole obnovil školní radu a stal se jím předsedou. Loni odmaturoval, studuje na americkém Stanfordu a dělá výzkum s jedním z předních světových odborníků na umělou inteligenci, který působí na Kalifornské univerzitě v Berkley. A k tomu je na stáži v Googlu Matyáš Boháček. Vyvíjí systémy na rozpoznání lží a deepfejková videa, tedy realistická uměle vytvořená videa. Umí i udělat.Jak se vyznat ve světě, ve kterém je stále snazší lhát.Vítejte ve světě vědy a otázek současné společnosti. Začíná, Hyde Park Civilizace.
moderátor ČT
——————–
Podle tebe AI změní svět jako.
mluvčí 3,
——————–
Jako internet. Ta změna je tak naprosto bezprostřední a zároveň všudypřítomná, že není podle mě jiná technologie než internet, aby to popsal líp.
Daniel Stach, moderátor ČT
——————–
Jak se podle tebe kvůli AI proměňuje množství pravdy a lží, které máme kolem sebe?
mluvčí 3,
——————–
Ta otázka doposud byla často o tom, co na internetu je falešné, co je nepravdivé a kde se máme dívat do detailů a kde si dát pozor na nějaké manipulace. Podle mě ta otázka se mění na to, ne, kde jsou manipulace a kde je nepravda, ale naopak, kde je ta pravda.
Daniel Stach, moderátor ČT
——————–
Místo lží budeme hledat pravdu.Říká Matyáš Boháček. Ve Spojených státech.Známý jako Maty.
Jaroslav Zoula, redaktor ČT
——————–
Zaujal už jako student gymnázia, když začal vyvíjet aplikaci na překládání znakového jazyka do slov, kamera nasnímá znak tady.
mluvčí 4,
——————–
Třeba pro slovo káva. Snad se mi povedlo udělat nějaké rozumné kafe.
Jaroslav Zoula, redaktor ČT
——————–
A aplikace znak pozná a popíše.
mluvčí 4,
——————–
Když si chtěl komunikovat s někým neslyšícím, tak by bylo úplně ideální, kdybych mohl vlastně vidět titulky toho, co oni znakují v živém čase, na čemž se vlastně pracuje.
Jaroslav Zoula, redaktor ČT
——————–
Projekt, který představil i v OSN, vývojářsky hotový a čeká na otestování a distribuci. Nevznikl by ale bez prvotní pomoci vědců ze Západočeské univerzity.
mluvčí 5,
——————–
Já jsem právě si otevřel ten první mail z roku 2020, kdy nás Matyáš oslovil a jeho první věta byla. Dobrý den. Jmenuji se Matyáš Báček a je mi 16 let, takže to už mě zaujalo jako první taková indikace toho, že to nebude, to je běžný student.
Jaroslav Zoula, redaktor ČT
——————–
To vše Matyáš Boháček připravoval ještě na střední škole. Loni odmaturoval a pak zamířil do Spojených států. Na svém Fordu se pak zaměřil na projekty týkající se dezinformací. A to jak vytváření falešného obsahu, tak jeho odhalování.
Jaroslav Zoula, redaktor ČT
——————–
Nejprve v laboratoři vytvořili falešnou digitální kopii známého moderátora. Rozdíl přitom nepoznali ani Petr.Reakce byly silné, i proto teď chce autor upravená videa a fotografie odhalovat.Navrhuje v uvozovkách informační štítek jako na potravinách, zda ty nejenom kdy a kde. fotky nebo videa vznikly, ale i o následných úpravách od kosmetických po manipulativních.
moderátor ČT
——————–
AI a současný svět. Jaký ti zachránila zub?
mluvčí 3,
——————–
Konkrétně tady zub úplně vzadu, dole. Byl jsem na preventivní kontrole u mého zubaře v paloaltu a ta prohlídka byla hrozně krátká a na první dobrou to působilo jako rutinní prohlídka. Pět minut a půjdu ven, ale potom ten můj zubař si úplně na konci uvědomil, že tam má nový přístroj na skenování mého chrupu, tak se mě zeptal, jestli jako to chci zkusit, tak jsem říkal, že super, jako si určitě vyzkouším jako tu umělou inteligenci na detekci kazu, tak mi to projel celý a ta umělá inteligence na konci řekla, že tam jsou dva kazy, které jsou menší, ty jsou v pohodě a, pak jeden, který ale určitě musíme vytáhnout jako rovnou vyřešit a ten zubař toho vůbec nevšimnul, předtím byl z toho trochu jako mimo, protože neviděli si jako teda máko, co toho poštěten nebo ne, tak ten zub otevřel. Zjistil, že tam reálně byl velký kás, který jinak kdyby to tehdy nevyřešil, způsobil úplně jako úmrtí toho zubu, takže mi zachránilaj zub.Ta tady dole.
Daniel Stach, moderátor ČT
——————–
Specializovaná na zdravotnictví.
mluvčí 3,
——————–
AI je tomu tak přesně na, konkrétně na zuby. A ta EIA umí jenom jednu věc. Z obrázku, respektive skenu, detekovat ka, případně další nějaké defekty a dávat doporučení, která poté ten zubař nebo poté ten tým těch specialistů nějak zhodnocují a ty dělají ten finální výsledek nebo ten posudek.
Daniel Stach, moderátor ČT
——————–
Na co se dneska II umí specializovat a na co myslí, že se specializovat bude umět.
mluvčí 3,
——————–
Dneska to je hodně. To zdravotnictví. Tam těch aplikací je již velká řada. A nejenom ve Spojených státech, ale i tady v Česku už máme různé aplikace na zuby, ale třeba i na skeny plící a detekci různých defektů, tam také třeba na různé skeny jako na exkeny, rentgeny.
mluvčí 8,
——————–
Rentgeny. Přesně tak. Ono ty články jsou vždycky v angličtině, tak potom si si to zmatuju v angličtině na rentgeny a mnoho dalšího, protože zdravotnictví je velké téma. Dalším tématem jsou taková třeba média, kde ta umělá inteligence analyzuje velká data a hledá v nich nějaké systémy nebo struktury, které poté poskytuje těm vědcům a výzkumníkům a ve finále třeba právě ve vědě, protože ve výzkumu nám umělá inteligence pomáhá odhalovat to, které cesty nebo které třeba oblasti než experimentů zní z ní zajímavě a kde se třeba máme skutečně tomu věnovat do hloubky? A kde je naopak? Třeba ty prospekty nějakých jako velkých objevů nejsou tak velké?
Daniel Stach, moderátor ČT
——————–
Jinými slovy, není to tak velký pokus, omyl.
mluvčí 3,
——————–
Přesně tak. A to třeba se ukazuje hodně ve studii genů a proteinů, kdy Alfa Fold ze společnosti Deepmind se naučil predikovat, jaký tvar budou mít různé proteiny, a to může znít trochu banálně, jakože při proteinu jako budu predikovat, jak vypadá, jaký má tvar, ale je to hrozně, hrozně důležité pro tvorbu vakcín, pro tvorbu léků, pro výzkum. A to je úkol, který dříve by zabral jednomu doktorandovi třeba šest let studia. Jenom tady ten jeden tvar toho proteinu, dneska to je pár vteřin pomocí umělé inteligence, takže toto je podle mě jako velká oblast, kde se to projevuje už dnes.
Daniel Stach, moderátor ČT
——————–
Zato taky byla udělaná letošní Nobelova cena. Je tomu tak, protože právě ta struktura určuje to, jakým způsobem ten protein bude fungovat, tedy co bude.
mluvčí 3,
——————–
Dělat přesně tak.
Daniel Stach, moderátor ČT
——————–
Jak se budu učit, pokud se budu chtít učit co nejlépe. I díky umělé inteligenci. Jak bude vypadat moje výuka.
mluvčí 3,
——————–
To je skvělá otázka. U nás na Stanfordu to funguje nebo respektive ta vize pro vzdělávání s umělou inteligencí je taková, že to je nějaký náš kritik, respektive pomocníka, parťák, kdy dneska nám umělá inteligence v našich předmětech, ať už to je pro, pro psaní a pro esej sloh, anebo třeba i pro počítačovou vědu, nám dává feedback, živý feedback na naše projekty, naše domácí úkoly a pomáhá nám zamyslet se nad věcmi, které třeba nás by nenapadly, když to na tom pracujeme a poté zpětně reflektujeme, co třeba si, čeho si všimla, bychom si nevšimli, tak to je jedna velká oblast,.
mluvčí 8,
——————–
Kritická zpětná vazba.
mluvčí 3,
——————–
Přesně tak, ale zároveň živá zpětná vazba, protože dodneška většina zpětné vazby funguje tak, nebo dneska to také běžná praxe, že student pracuje týden nebo několik dní na úkolu, ten potom odevzdá a buď profesor nebo učitel nebo nějaký asistent nebo asistentka se poté podívá ten úkol a na konci třeba zase za týden poskytne zpětnou vazbu, a to pro učení je hrozně, hrozně neefektivní, protože se ukazuje v, a to je ve spoustě spousty různých výzkumů, že živý feedback, respektive co nejkratší vlastně doba od toho našeho výkonu do toho feedbacku nám pomáhá se učit co nejefektivněji a toto umělá inteligence umí skvěle. Dneska.
Daniel Stach, moderátor ČT
——————–
Obavy, které ty máš, se týkají mimo jiné přístupu mu fast and break finx, který byl někdy, a někdy ještě je se Silicon Wally spojovaný. Tedy pojďme to tlačit i za cenu toho, že cestou něco zničíme. Proč je to v tomhle případě podle tebe tak špatně.
mluvčí 3,
——————–
V případě AI ty dopady jsou na úplně jiné škále než v případě aplikací nebo běžného softwaru, který do, řekněme, třeba pěti let zpátky byl právě ten, tím produktem nebo tím předmětem tady té filozofie. fast Britings, která na Stanfordu je všudypřítomná, tak u softwaru aplikace to tak nevadí. Pokud se něco nepovede, tak prostě ti uživatelé si to na nenainstalují nebo nebudu používat a zkusíte to znovu a přesměrujete, alterujete ale umělé inteligence, ta škála těch aplikací a škála rozhodování a škála, na které sdílí informace, aplikuje informace a třeba rozhoduje, co lidé uvidí na sociálních sítích, co lidé budou konzumovat ve svých inboxech, emailech, tak to ovlivňuje to, jak čteme zprávy, to, jak přemýšlíme to, jaký diskurz a jaká témata asi vyzvihují v mediálním prostoru a tam ty chyby, které třeba často nevidíme ani při tom vývoji a při té, v tom testování našem, mohou mít dopady, které reálně nepoznáme, třeba až do toho, do finální manipulace té společnosti nebo těch skupin obyvatel.
Daniel Stach, moderátor ČT
——————–
Jaké to pak bude mít důsledky? Co se v tomto případě break, co bude v tomto případě zničeno? Pokud budeme tlačit příliš prudce.
mluvčí 3,
——————–
Když to trošku přeženu, tak, tak naše mysli, protože dnes žijeme ve světě, kde procesujeme na denní bázi několikrát více informací, než jsme za posledních 100 let nebo vlastně tisíce let jako naši předkové procesovali a ty naše mozky na to nejsou úplně stavěné a je to pro nás velmi těžké se s tím vyrovnat. I před AI to bylo velmi těžké. A ta AI, nejenom, že nám prezentuje ještě více obsahu, protože můžu vygenerovat obsah, který je německy vytvořený, ale také se zaměřuje na to, který obsah nám vybere a zkoumá, který obsah, na který obsah my reagujeme, který nás zajímá, jak nás baví a který klikáme stream, interagujeme, a to náš mozek může hrozně přehltit, takže si, si dovolím tvrdit, že pokud to takový projektings, tak to může reálně projekt our brains. Naše mozky.
Daniel Stach, moderátor ČT
——————–
Ty podvody, které dnes sledujeme, které ty osobně považuješ za ty, co budou stále častější právě kvůli tomu, jak se rozbíhají možnosti AI.
mluvčí 3,
——————–
Myslím, že jsou takové tři typy hlavní. My se hodně věnujeme Deep fakům, jako třeba politickým nebo v nějakých mediálních kampaních a ty podle mě budou velmi důležité, ale dneska, co vidíme nejvíce, jsou takové scam, takové podvodné hovory, které hodně ve Spojených státech, ale i dnes už tady u nás v Česku se používají třeba pro naklonování hlasu vašeho příbuzného nebo třeba někoho blízkého kamaráda, naklonování hlasu znamená, že vezmeme nějaké ukázky toho hlasu třeba vašeho partnera, partnerky, příbuzného dětí a vytvoříme model EI, který poté umí tím stejným hlasem, jako mluví oni, říct vlastně cokoliv, jakýkoliv text a poté ten scamko, ten podvodník zavolá vám a tím hlasem vašeho blízkého řekne třeba mami, tati, byl jsem třeba, nic se mi stalo. Jsem v nemocnici, potřebuju peníze, abych mohl zaplatit za nějakou proceduru třeba. A ti lidé nebo my jsme vystaveni nějaké stresové situaci, slyšíme hlas našeho blízkého a v ten moment reagujeme méně racionálně, trochu jako, chceme prostě pomoci co nejrychleji. A takhle se posílají stovky, tisíce dolarů denně. A nejenom ve Spojených státech, ale i v Česku, tak to je podle mě velká oblast, kde ty podvody budou vidět a v neposlední řadě i třeba v byznyse, kde lidé napodobují buď třeba CEO ředitele nebo jakékoliv zaměstnance, kteří mají nějakou zodpovědnost, nebo třeba mají dávat pokyny zaměstnancům a oni je naklonují vytvořit jejich deepfake, jejich umělou podobiznu, a to třeba řeknou, prosím, pošli mi heslo k účtu bankovnímu, protože potřebuju tady něco zaplatit. A když vidíte svého šéfa nebo šéfku, jak vám říká na video, prosím, mi pošlete nějaké heslo, tak asi pokud vás nenapadne, že to je Deep fake, tak to pošlete. A pak chtějí. Podvodníci z toho mohou čerpat peníze nebo třeba informace se ne. Takže tak.
Daniel Stach, moderátor ČT
——————–
Nehledě na to, že stále zůstávají aktivní ty v uvozovkách jednoduché podvody. Na esemesku, kdy přijde, je potřeba vložit údaje k vaší platební kartě.
mluvčí 3,
——————–
Přesně, přesně tak. A to mimochodem možná v Česku není tak běžné, ale pro představu, já na svém americkém telefonním čísle dostávám třeba 56 esemesek tohoto typu denně a mnoho z nich je jako velmi přesvědčivých, nejenom proto, že používají velmi jako běžný jazyk a takový jako přátelský tón, ale protože oni ze sociálních sítích nebo z nějakých jiných informací o mně online ví, jak se jmenují moji kamarádi, takže mi moje esemesky třeba podepisuje LLS nebo Jason, moji kamarádi ze Stanfordu. Každý den prostě mám fakové zprávy od LS a Jasona a ty systémy a ti podvodníci, kamarádi.
Daniel Stach, moderátor ČT
——————–
Podle Policie České republiky škody na podvodných investicích byly jen za loňský rok ve výši dvou miliard korun. Pokud jde o tzv. falešného bankéře, kdy někdo volá a přesvědčuje, aby člověk dal ideálně peníze svého účtu do bitcoinmatu, případně ještě vybral všechny peníze, aby si na něj takzvaně nikdo nemohl vzít úvěr a vložili do bitkonmetu. Bylo 800 případů nahlášených falešného bankéře. Ta průměrná škoda byla 300 000 Kč, ta nejvyšší škoda 5 milionů Kč, a to je bez AI.
mluvčí 3,
——————–
Je tomu tak. A to navíc ještě nezahrnuje všechny ty případy, protože existuje určité stigma toho, že jste byli napálen, protože lidé nechtějí být napáleni, to je tam určitá, určitý stud. A to nejenom jako z EIA, ale i přesně, jak popisujete, ho popisuješ s klasickou skotskými podvodem.
Daniel Stach, moderátor ČT
——————–
Proto je tak důležité vidět nejenom tu techniku, nejenom tu technologii, nejenom ten kód, ale samozřejmě i tu společnost. A to je to, co je na tvém příběhu hodně vidět, protože dneska jsi ve Spojených státech, pracuješ na Deep fake videích, na jejich rozpoznávání, ale umíš je i vytvořit. A přitom si začínal jako kluk, který v šesti letech udělal webovou stránku, ve které nabízel v katalogu to, co sebral ze špajzu svoji babičce, proč to v šesti letech naprogramoval?
mluvčí 3,
——————–
Mě hrozně bavilo si hrát na obchůdek s babičkou, my jsme měli takovou hru, že já jsem vždycky si u ní přes víkend rozkládal její potraviny nebo prostě sušenky a jablka z jejího špajzu. U mě. V pokojíčku, hrál jsem tam cenovky, byl to obchůdek můj a takhle jsem z babičky a z dědečka bral jako korunky a peníze takový jako podnikatel jako kapitalista malý. A potom v nějaký moment mě prostě napadlo, že potřebuju e-shop, protože přece moje babička a děda potřebují mít jako internetový ještě způsob, jak kupovat potraviny. Tak jsem sednul za počítač v počítači starý a vyhledal jsem si, jak se dělají webové stránky, a tak jsem se do toho pustil. To byl ten a motivátor.
Daniel Stach, moderátor ČT
——————–
Takže se to naučil sám. Podle návodu, který jsi našel.
mluvčí 3,
——————–
Přesně tak, na internetu.
Daniel Stach, moderátor ČT
——————–
Když jsi byl na základní škole základní škola Kladská, tak jsi tam doslova a do písmene vzkřísil tehdy nefungující školní radu. Stal se jím předsedou, zároveň jako delegát za Prahu byl zvolen do Národního parlamentu dětí a mládeže. A k tomu programuješ, to je zajímavá kombinace, která nebývá tak častá.
mluvčí 3,
——————–
Mě to nějak nepřijde jako zajímavý, mě to prostě tak nějak všechno bavilo dohromady a nevím vlastně, proč to, to očekávání jako ten, ta premisa té otázky vlastně, já jí moc jako nerozumím, mě prostě ty věci bavily, tak jsem prostě dělal to, co mě bavilo. Zároveň bych chtěl říct, že paní ředitelka Vávrová na mé základní škole byla hrozně nápomocná a hrozně otevřená. A právě tady to spojení těch různých témat podporovala to, že to mě vlastně motivovalo k tomu to tak otevřít.
Daniel Stach, moderátor ČT
——————–
Já jsem ji naformoval tak proto, že když jsme hledali, co o tobě kdo říká, tak se mimo jiné objevují slova, není to typický.
mluvčí 1,
——————–
Dík.
Daniel Stach, moderátor ČT
——————–
Tak, jak si někdy člověk představí, opravdu díka zaměřený na jednu oblast, na jedno téma, ale u tebe to tak není, jak ti pomáhá právě tahle široká oblast zájmu humanitních i technických věd v tom, aby si mohl pracovat s umělou inteligencí.
mluvčí 3,
——————–
Mě hrozně zajímá celý svět jako věci prostě kolem mě, když prostě jdu ráno na přednášku, prostě, když večer jdu do kantýny, tak to, jak věci fungují, proč lidé dělají to, co dělají, jak to dělají? Já se prostě ptám jako lidí. Na ulici náhodně nebo třeba jako na Stanfordu se ptám hodně jako mých spolužáků, prostě, který jsem třeba předtím někdy neviděl, prostě, proč třeba zrovna tady jako mají tady to kolo a co s tím dělají? Prostě mě zajímá jak lidi fungují a jak svět funguje, a to mě vždycky nějak jako hnalo a poté umělá inteligence pro mě je vlastně věda, která spojuje hrozně moc věd, dohromady je tam ta technika, je tam to kódování a trénování a je potřeba znát ten kód a být v tom velmi jako dobrý a orientovat se v tom zároveň ty aplikace a implikace na společnost, na humanitní vědy, na i jako jiné běžné vědy, jako na neurovědy a fyziku a matematiku, a to zároveň, jak z nich čerpají z těch, jako z našich poznatků z těch věd, to mě hrozně fascinuje, takže pro mě umělá inteligence vlastně byla jako tím přirozeným nějakým oborem, který prostě dává smysl tomu, jako já přemýšlím o světě.
Daniel Stach, moderátor ČT
——————–
A to jsi chtěl vždycky, protože tvoje první aplikace, která oficiálně není tvoje, ale je tvojí maminky, jak jsme našli v app Storu, protože byla to právě Lucie Boháčková, která tobě čtrnáctiletému Matyášovi zajistila, že aplikace Newskitt byla ke stažení, byla to aplikace, která dávala dohromady informace ze zdrojů, které si vybral, tak aby tvoji spolužáci měli relevantní zdroje k dispozici. Co jsi udělal předtím, než si tuhle aplikaci napsal?
mluvčí 3,
——————–
V první řadě jsem si udělal takový průzkum mých spolužáků na základní škole, já jsem viděl, že můj kamarádi často čerpali informace ze sociálních sítí a z Facebooku nebo z Instagramu hodně, a tak jsem se prostě ptal mých kamarádů, udělal dotazník, dotazník, já jsem začal tím, že jsem se ptal jako tak jako informálně, jenom prostě jako mezi řečí a pak mi všichni kamarádi skoro řekli, že čerpají primárně sociální sítí, pak jsem dal dotazník, ten jsem rozeslal na moje spolužáky a vlastně na jiné třídy a z něho ta data, byla hrozně jasná a ten dotazník mimochodem přes mapoval výsledky mír jednoho světa na školách, který měl podobný dotazník, jsem si potom až zpětně a ty výsledky byly skoro jako asi třeba o 2 % vlastně rozdílné, a to mě hrozně motivovalo k tomu, potom se do toho pustit a vlastně viděl jsem, že tam ten problém existuje, že to není jenom něco, co cítím jako z mého omezeného okolí, ale to pla na tej škole, a tak som SA o toho opustil.
Daniel Stach, moderátor ČT
——————–
A dal dohromady to, aby mi zdrojov než z jedného relevantní informace, jenomže apludoval si aplikaci a ono se do ní nic nestahovalo, jak si to vyřešil?
mluvčí 3,
——————–
Ten problém byl ten, já jsem jí dal na apsto a ten primární problém byl v tom, že ta média, která se do ní daleko, včetně České televize a dalších médií, jsem nemohl používat, měl jsem na to licenci, a to mě vlastně do té doby nenapadlo, já jsem byl v osmé nebo de deváté třídě, na základce jsem říkal, jo, vlastně licenci bych asi jako si měl obstarat, tak jsem potom napsal mail do všech těch redakcí a já jsem si viděl třeba s redaktory nebo šéfredaktory těch redakcí, ti očekávali, nevím koho, byli trochu překvapení, že jste, když jsem přišel jako osmák nebo deváťák, ale bavili jsme se spolu a všichni byli hrozně ochotní brát licenci a pod podmínkou, že aplikace bude bezvýdělečná, mi ji dali, takže potom jsem se vrátil na app Store s těmi potvrzeními, s těmi dopisy od těch redakcí, že mu ho ta data používat. A všechno se rozjelo.
Daniel Stach, moderátor ČT
——————–
Díky tomu se potom dostal na vývojářskou konferenci, kdy mohl vzniknout spotter, tedy aplikace, která pomáhala překládat a pomáhá překládat znakový jazyk. Jak dlouho ti trvalo, než si mohl udělat ten další krok?
mluvčí 3,
——————–
To mi trvalo několik let, protože já jsem se na tu aplikaci nebo na konferenci, na to stipendium se mi vlastně třikrát a poprvé a podruhé jsem se tam nedostal a hrozně mě to zklamalo nejdřív, ale pak jsem vždycky se nějak k tomu vrátil a vylepšoval jsem ty svoje projekty a tu svoji přihlášku a napotřetí to vyšlo v roce 2019 a tam jsem jel do San José na konferenci Applu Oivárskou, a to mi úplně změnilo ten rozhled, a to, jak lidé přemýšlí o těch aplikacích, a to, že jsem tam viděl další lidi stejného věku, studenty, které prostě baví kódování, ale taky třeba jako jiné věci měli ty přesahy, to mě hrozně namotivovalo, úplně jsem se cítil, že to je to místo, kde chci nějak pracovat a na čem chci pracovat do budoucna? A tam se mimochodem potkal neslyšícího vývojáře, zaměstnance Applu, který vypovídal nebo respektive on znakoval skrze tlumočníka, jak pro něj je složité, komplikované pracovat s technologiemi? S telefonem, s jeho počítačem. A do té doby mě vlastně vůbec jako nenapadlo, jak lidé s handicapem používají technologie a bylo to pro mě úplně šokující, že vlastně jsme je takhle zanedbali, nebo že jsme vlastně neposkytli způsoby, kterými by se mohli cítit komfortně na sociálních sítích, na, v aplikacích běžných a vlastně jako na internetu a tak jsem se do toho pustil a tak vlastně vznikl spotr.
Daniel Stach, moderátor ČT
——————–
Vznikl spotr, to znamená aplikace, se kterou se dostal na mezinárodní konference do o OSN a také ji takhle představoval, když za ní získal českou hlavičku.
mluvčí 9,
——————–
Téma práce lze zařadit do oboru počítačových věd, konkrétně strojového učení a zpracování obrazu. K problematice jsem se dostal ještě v době covidových izolací a karantén, a to díky mé snaze se znakový jazyk sám naučit.K mému překvapení neexistoval žádný volně dostupný překladač vést co Googo CH, který by lidem umožnil přecházet mezi znakovými a psanými jazyky.
mluvčí 8,
——————–
A tak si ho vytvořil a dneska funguje, co umí.
mluvčí 3,
——————–
Dneska umí jednak překládat znakový jazyk z videa do textu, zároveň máme i prototyp, který umí z textu vytvořit Avatara, generovat vlastně znakující postavu, která přesně popisuje to, co je v tom textu napsané v znakovém jazyce a k tomu navíc ještě teďko spolupracuji s jedním studentem tady střední školy z Česka Václavem Knapem, který k tomu přidal další funkci, a to je zpětná vazba, zpětná vazba pro lidi, kteří se učí znakový jazyk, takže máme jednak model na překlad z videa do textu, z textu do videa nebo do Avatara a navíc ještě model, který umí dávat zpětnou vazbu na vlastně začátky začínající studenty znakového jazyka.
Daniel Stach, moderátor ČT
——————–
Kolik ti bylo, když ses ozval Marku Hrůzovic Západočeské univerzity v Plzni.
mluvčí 3,
——————–
Myslím, že 14 let, 15 let.
Daniel Stach, moderátor ČT
——————–
Ozval se a dal vědět, že by s nimi chtěl pracovat na jedné konkrétní aplikaci. Takhle si na to vzpomíná sám doktor hrůz Západočeské univerzity.
mluvčí 5,
——————–
Matyáš Teh. Tehdy ještě v roušk, v rouškách jsme byli všichni. Přišel normálně do Plzné a před takovou jako uším vlastně vedením katedry nám prezentoval své vlastně výsledky, takže tam to už bylo vlastně, on byl postaveno, že ty situace, kdy musel vlastně takhle před nějakou oficiální komisí nebo jak to nazvat, něco představit a zvládl to perfektně, takže vlastně i to byl další vlastně taková indikace toho, že ten člověk má před sebou super budoucnost, uměl komunikovat perfektně, dokonce velice. Copak nebývá zřejmé a časté, že dokázal uznat, že ano, to moje řešení není dokonalé. Nebyla tam z jeho strany žádná arogance, žádná namyšlenost, takže to bylo vlastně strašně super. A já taky jsem, víte, jako vědec, který se tomu věnuje už 20 let této problematice jsem měl takové obavy, co teď přijde šestnáctiletý kluk. A teď nám to všem ukáže, jak se to dělá doopravdy.No, tak ukázalo něco, co jako naštěstí jsem hned viděl. Ano, to je super cesta a vím přesně, kudy dál, aby se to dostalo na tu vyšší úroveň.
mluvčí 7,
——————–
Prosím, přibližte mi, jak probíhala ta prezentace, jak dlouho to trvalo.
mluvčí 5,
——————–
Celá ta Matyášovy prezentace trvala, řeknu, aktivně, něco kolem půl hodiny až hodiny a pak jsme se s ním bavili další hodinu a říkám, jako reagoval velice pružně, dokázal se vyjádřit k věcně, takže velice v dobré atmosféře to probíhalo a všichni jsme byli z toho nadšení teda.
mluvčí 10,
——————–
Takže v zásadě skoro jako obhajoba nějakého svého grantového návrhu nebo případně maturity, případně něčeho dalšího ve vědecké kariéře.
mluvčí 5,
——————–
Úrovni bych to přirovnal, řekněme, k obhajobě bakalářské práce, bych to tak řekl s tím, že samozřejmě to byla Matyášova absolutně jakoby bokovka nad rámec vlastně jeho povinností, že jo, když, takže to už bylo super a vlastně i v tomhle kontextu. Já jsem Matyášovi po pár konzultacích říkal, prosím vás, to je neuvěřitelné, já se s váma bavím, jako kdybyste byl můj doktorand a můžu se s váma bavit na týhle úrovni, protože vy tomu rozumíte. A Matyáš teda i skvěle tu práci odváděl, vždy přišel, udělal, ne, co jsem mu zadal. Ještě o kus víc s zvláštními myšlenkami, takže velice to probíhalo velice super.
mluvčí 8,
——————–
Jak jste viděl ty.
mluvčí 3,
——————–
Mě to hrozně bavilo, já jsem jezdil vždycky do pozně pendolinem v úterky a ve čtvrtky na seminář a na schůzky s panem doktorem Hrůzem, s Markem a bylo to vždycky skvělý, já jsem vždycky ve vlaku ještě, já jsem jel bagetu rychle, protože jsem potřeboval ještě jako dopsat ty slidy prostě a poznatky a mě to hrozně bavilo, vždycky, bylo to hrozně motivující a hrozně příjemný a to, že si mě pan Dr. Rus a vzal pod sebe a dávám ten čas a tu péči, tak to pro mě bylo úplně vzdomující, to bylo hrozně, hrozně zábavný, produktivní a mi to hrozně moc vlastně pozitivní energie a motivace pokračovat v tom výzkumu a dělat to vědecky a ne třeba byznysově nutně.
Daniel Stach, moderátor ČT
——————–
Kdy sám říká, že tobě pomohl covid, protože si mohl udělat rychle to, co bylo potřeba do školy a pak dělat tu práci, která tě bavila, jak ti vycházeli na gymnáziu Jana Kepla vstříc, aby si tohle mohl všechno kombinovat.
mluvčí 3,
——————–
Zprvu to bylo trošku komplikovanější, to jsme se trošku oťkávali s paní ředitelkou nebo zástupkyní ředitele. Tehdy trvalo nějakou dobu, než mi dovolil dát individuální studijní plán, abych mohl jezdit do té Plzně a dělat další věci. Ale potom, když jsem ukázal, že to stejně jsem schopný stíhat jak školu, tak ten výzkum, a protože mám dobré známky a plním všechno včas, tak poté mi dali velkou svobodu, a to si moc vážím. Takže ten první půlrok, který jsme to zkoušeli, to bylo trochu náročné, ale to, chápu plně, a pak to bylo nesmírně produktivní a vstřícné ze strany školy.
Daniel Stach, moderátor ČT
——————–
Když říkáš, měl jsem dobré známky, jaký si měl průměr.
mluvčí 3,
——————–
Jedničky jsem jednu dvojku jsem měl z biologie.
Daniel Stach, moderátor ČT
——————–
Je tam jedničky dobrý známky, ano. Po gymnáziu ses hlásil do Spojených států, dal sis přihlášku na 10 univerzit, těch vůbec nejprestižnějších ze všech. Já jenom na dvě ses nakonec nedostal.
mluvčí 3,
——————–
Je tomu tak.
Daniel Stach, moderátor ČT
——————–
Kolik si musel napsat? Esejí?
mluvčí 3,
——————–
Na každou školu jsem psal asi pět nebo šest esejí, takže těch 10 škol krát, těch 5–6, takže třeba 50, 60 esejí. Teď si přesně nepamatuju teď konkrétní čísla.
mluvčí 8,
——————–
Nakonec se dostal na Stanford, čím si přesvědčil.
mluvčí 3,
——————–
To mimochodem, oni vám z té, z té školy nebo na stanpo to tak funguje vám ta vaše vlastně komisař Kar/ta, vlastně pracovnice, která četla mojí první esej a vlastně podle mě prezentovala tak komisi, tak vám napíše na konci ten její vztah vaší přihlášce a ona psala, že jí zaujalo jednak to, že jsem dělal tu vědu a ten výzkum a že to mě bavilo a zároveň, že jsem na škole pracoval přesně pro parlament a pro, pro noviny naše studentské a jsem to coviduno dohromady, tak to jí zaujalo a taky právě bavil spoter a ten příběh z Poter, vlastně ze Sanfsee, protože to je kousek od Stanfordu, to je třeba půlhodina autem.
mluvčí 8,
——————–
S kým bydlíš? Na koleji.
mluvčí 3,
——————–
Minulý rok jsemdlel s Charliem, což je americký fotbalista. Já nevím, jestli je vidět v televizi, ale já mám 2 m. Skoro.
mluvčí 11,
——————–
Jsi vyšší než abych.
mluvčí 3,
——————–
A Charlie měl třeba ještě o 10 cm víc než já a byl obrovský jako do šířky, a to bylo velmi zajímavé, byl z Kentucky, myslím, a ta naše komunikace a naše soužití bylo, bylo jako nesmírně fascinující jako, jako ten, ten způsob, kterým jako se choval ve škole a k životu a k přátelům a ke všemu bylo, jako to bylo, pardon, že nemám jako lepší výraz, a to bylo fakt hustý.
Daniel Stach, moderátor ČT
——————–
Úplně nevím, co si pod tím mám představit a nejsem si jistý, že se vám tamhle detaily.
mluvčí 11,
——————–
Možná naše de.
Daniel Stach, moderátor ČT
——————–
Dobře. Raději se zeptám na to, jak se tohle prostředí mění, protože ty jsi v rozhovoru s Jaroslavem Zoulou a mimo jiné říkal, cituji, můj optimismus vůči tomu, že tyhle věci vyřešíme. Tedy problémy, které jsou s umělou inteligencí spojené. Je teď asi na maximu, na jakém jsem kdy byl, a to proto, že seš ve Spojených státech. Proč? Co to tam.
mluvčí 3,
——————–
Je ta energie všech lidí okolo mě? A to jak profesorů a lidí, co tam s námi pracují jako kantorů, tak studentů mých, mých kamarádů, je neuvěřitelná. Já jsem přišel a první den jsem se potkal s ales, což je teď vlastně moje asidbi kamarádka tam na Stanfordu a ta přišla s tím, že chce vyřešit prostě rakovinu. Nebo ještě jeden další problém pomocí EIA medicíny. A několik lidí, bych řekl, které jsem znal, tedy v Česku, kteří měli podobné ambice, tím se lidé smáli a tam na, ten doporučeníí, byli to, jo, super, tak jde na tom pracovat a ta energie a ten Drive. A všichni, že to brali jako naprosto seriózně, to pro ně bylo něco úplně nového a úplně jako osvobozující to bylo, bylo to skvělý, protože lidi mají obrovské ambice, obrovské cíle a většina z nich je naprosto jako nezištné a vlastně chce pomáhat spoluprací a vlastně jako otevřeně spolupracovat na těch projektech, a to je prostě skvělé. A potom ti profesoři zase na druhé straně, tak ti si s námi baví jako s naprosto jako rovnými, byť jako ty jejich zkušenosti a kapacity jsou úplně někde jinde než naše. My se teďko ještě školíme a trénujeme a pro nás hrozně osobně a přátelsky a můžete jim tykat. A to podle mě změní tu dynamiku. Prostě, že jdete s profesorem po přednášce, a to jsou profesoři, který třeba dokázali třeba teoriily lidických desek a desek a prostě jako, a obrovské kapacity v jejich oborech a pak jsme to jako na oběd, prostě na sendvič, jako třeba v pěti lidech a bavíte se s nimi o tom, jak na to přišli a že vlastně jako to byla trochu náhoda a trošku vlastně jako chtěli vlastně jako na cestu, tak prostě si jako našli grant, prostě mohli vycestovat a najednou teda jako objevili prostě jako že to jde prostě přes ten jako magnetismus vlastně jako dokázat a ty příběhy, a to, že ta věda je hrozně lidská, to je úplně pro mě osvobozující a hrozně to nabíjí.
Daniel Stach, moderátor ČT
——————–
U ledového kafe, ideálně probrané.
mluvčí 3,
——————–
Přesně tak. Já jsem tam štamgast tady ČAKF, což je tam naše kavárna, tam jako přijdu a už jako se ani neptají, prostě št mnou jako prostě, kdo je aový kafe. Jedeme na tématy. Přesně tak.
Daniel Stach, moderátor ČT
——————–
Ty pracuješ na detekci dee fake videí a mediální forenzní analýze, tedy vyhodnocování toho, co se děje, na co se díváme, proč to tak je, jakým způsobem to funguje? Proč tohle téma?
mluvčí 3,
——————–
Protože lidé dnes koukajína sociální sítě nebo trávíme spoustu času třeba jako několik hodin denně. A ten obsah, který dnes vidíme, je z velké části buď a jak vytvořen nebo nějak upraven a do budoucna věřím, že během několika měsíců většina obsahu na internetu bude nějak upravena nebo vytvořena umělou inteligencí? A v ten moment je potřeba se ptát, co je reálné, co není reálné a pracovat s tím. A pro mě ta znalost toho, že třeba neexistují detektory nebo neexistují systémy nebo neexistovaly na tu detekci, byla tak šokující, aleující, že jsem se do toho chtěl nějak zapojit.
Daniel Stach, moderátor ČT
——————–
Jak cílená budou tahle prolhaná videa.
mluvčí 3,
——————–
Budou nesmírně cílená ta videa, co dneska vidíme, jsou většinou vytvořená jako trvá to nějakou chvilku, pár minut třeba a je potřeba, aby nějaký člověk konkrétně to vytvořil, zadal tu úlohu, zadal ten text, ten scénář, našel ty lidi a ta data, ale do budoucna to bude absolutní personalizace na úrovni jednotlivců, jednotlivých uživatelů, protože ty algoritmy sociálních sítí a vlastně jako jinde ne na sociálních sítích znají přesně to, co vás zajímá, na co klikáte, co vás baví a kde trávíte nejvíce času a přesně ty vektory a vlastně ta citlivá místa, skrze která ty narativy můžou k vám doputovat, tak to oni znají a teďko si mohou najít prostě jakoukoliv osobnost, které vy věříte nebo které naopak, to nemáte třeba rádi? Která vyvolává emoce a poté tu osobu deepfkovat tak, aby pušovaly svůj vlastní narativ. A ta pesimalizace bude absolutně jenom jako pro vás, prostě deepfke pro daná, které zajímá třeba věda, nějaké konkrétní věci a pojede prostě. Živě na Twitteru, na Facebooku, na Instagramu.
Daniel Stach, moderátor ČT
——————–
Na kktoku a bude tak personalizované, že ty odkazy, na které bude třeba narážet ten uměle vytvořený člověk, budou spíš o kočkách, protože mám raději kočky než psi, nebo naopak o téhle personalizace bavíme, protože ze sociálních sítí se dá zjistit, že jsem spíš kočičí než psí.
mluvčí 3,
——————–
Je tomu tak a ty kočky a psy jsou hezká ukázka, ale ty algormy pracují na daleko přesnější a detailnější úrovni a znají rozdíly pro de facto každý, s kterým se už nějak pracoval. To, že jste jednou nějaký příspěvek od třeba nějaké události ve zprávách, tak jenom to, jak dlouho třeba jako na to se podíváte a jak dlouho odujete dál, to je velmi silný signál toho a z toho už jako ty algeny pracují a extra aují z toho nějaká data, informace.
Daniel Stach, moderátor ČT
——————–
Dokáže tohle vytvořit kdokoliv? Takovéhle video nebo potřebuje umět programovat.
mluvčí 3,
——————–
Před rokem bych vám řekl, že ano, je potřeba programovat a mít nějakou technickou znalost, dneska kdokoliv. Dneska existují stránky aplikace, které často jsou třeba i zdarma, v nějakém testovacím režimu, kde přijdete, zadáte tax nebo scénář, co má ta osoba říkat? Jednu fotku? Možná jedno video, a to stačí cokoliv.
Daniel Stach, moderátor ČT
——————–
Ty jsi se podílel na práci, která ukazovala, jakým způsobem rozpoznat fake u prezidenta Volodymyra Zelenského. Bylo to na začátku ruské agrese směrem na Ukrajinu. Tady máme fejkového, reálného. Vy jste pracovali se čtyřmi různými prostředími, s osmi hodinami videí, ve kterých jste dávali dohromady tahle data a přišli jste s tím, na co si dát pozor, abyste mohli říct, pozor, tohle vypadá na fake, na co jste přišli, na co je potřeba a jak se zaměřit.
mluvčí 3,
——————–
Zaměřovali jsme se konkrétně na pohyby úst těch spodních částí vlastně rtů, které často v těch dýfejcíchch jsou velmi nepřesné a trošku se chvějí. Pokud zaoomujete na ta videa, tak často uvidíte trochu jako chvění se, stejně tak třeba ta gesta a to, jak ta gesta fungují. A v rámci toho projevu a kde naopak třeba ta osoba něco, něco signalizuje, kde něco zdůrazňuje, tak to tam nesedělo. A my jsme viděli, že ty tomu říkáme jako konkrétně to jsou korelace, ale že vlastně ty souhry tady těch věcí ale naše ústa, že tam jsou nesoulady a nějaké signály, které my jsme mohli rozpoznat.
mluvčí 8,
——————–
Manýrismus.
mluvčí 3,
——————–
Je tomu tak. Jsou to manýrismy konkrétních osobností. Tady v případě pana prezidenta Zelenského to je možné, protože máme velkou databázi jeho videí proslovů, rozhovorů a můžeme se ty manýrysmy naučit nebo mi umělá inteligence se naučí, takže u nich to maný, které jsou tak detailní a tak časté a tak přesné, že nechci říkat, že to je nějaké jako skoro DNA, ale takové trochu jako vizuální, skoro jako DNA, je to prostě takový, takový.
mluvčí 11,
——————–
Faktor toho člověka, který každý máme, třeba si to neuvědomujeme, ale je hrozně silný, je tam skoro vždycky, když mluvíme, nebo když prezentujeme něco.
Daniel Stach, moderátor ČT
——————–
Bavíme se o tom, že třeba nakloním hlavu, když něco typicky říkám, použiju gesto ruky, které nikdo jiný nepoužívá.
mluvčí 3,
——————–
Přesně tak, a to jsou velmi jako viditelná gesta a tady těch gest je spoustu. Co to třeba svaly ve vašem obličeji, a to jak spolu nebo jak za sebou se pohybují, jak intenzivně třeba jsou zaťaté, tak to všechno můžeme z těch videí nějak predikovat a poté kvantifikovat v těch našich modelech.
Daniel Stach, moderátor ČT
——————–
Jinými slovy, pak vytvořit systém, do kterého nahrají to video. A ten mi řekne, s jakou pravděpodobností to je nebo není vylhané. video.
mluvčí 3,
——————–
Přesně tak, a nejenom to zároveň umí, umí zažovat, které třeba segmenty toho videa jsou upravené, protože dnes se často děje to, že se třeba opravdu jenom jednotlivé slova, jednotlivé pasáže toho videa, a to všechno ten model je schopný rozpoznat, že třeba většina videa je v pořádku, tam to všechno sedí a najednou tady u toho slova je něco v nepořádku a přesně říci, jaké třeba faktory nebo jaké věci v tom obličeji nebo v, v těch gestech jsou v nějakém nesouladu a poté my se můžeme jít podívat na video a posadit to sami.
Daniel Stach, moderátor ČT
——————–
Zároveň to můžete přidat další úhly pohledu. To, jak tam dopadá nebo nedopadá světlo, například, to je to tak, na čem taky pracujete.
mluvčí 3,
——————–
Přesně tak, jenom z toho 2D obrázku. A to, jak, když jsem to zjistil, mě to hrozně fascinovalo. Zvěr obrázku, pokud člověk je venku, tak jenom prostě z toho, z té intenzity těch barev na vašem obličeji, na obličeji a vlastně na tvářích a na čele je možné predikovat, kde vůči vám je slunce. A ty rovnice krásně vychází, krásně vychází ty rovnice, když to je reálná fotka nebo video, a když není, tak to vůbec nevychází, ale je to jako tak silně, je to tak silný faktor a signál, že to je, to byl skoro jako nejsilnější prediktor pro deky z venkovního prostředí.
Daniel Stach, moderátor ČT
——————–
Zároveň můžete také sledovat to, co tam nezaznělo, jinými slovy, najít si ten text a porovnat, jestli se pohybují rty tak, jak mají.
mluvčí 3,
——————–
Přesně, přesně tak.
Daniel Stach, moderátor ČT
——————–
Dá se tohle to dát všechno dohromady a ještě k tomu něco přidat, abychom zvýšili pravděpodobnost, že poznáme lež.
mluvčí 3,
——————–
Lze k tomu přidat i další faktory, ale třeba pro mě ten asi nejvtipnější je zkusit zakrýt si uši, tak já jsem vlastně přišel na mnoho z těch signálů, které používáme, protože když jsem si jednou náhodou zakrl uši, snímáme jeden z vašich deků, který jsem jako dlouho dlouze připravoval a byl fakt jako velmi jako vyladěný, úplně jsem na ně byl pyšný a pak jsem jako nějak podle mě asi možná z legrace nebo nevím, proč jsem si zakryl uši, byl jsem v Labu třeba jako 10 večer a najednou jsem se díval na ta ústa a vůbec to nesedělo a úplně jsem si říkal, ty jo, jako něco je v nepořádku, a to podle mě je dneska stále jako velmi dobrý indikátor. To je starýběh nebo ne.
mluvčí 8,
——————–
Jak dlouho to vydrží?
mluvčí 3,
——————–
Možná rok, dva, pokud budeme mít štěstí.
Daniel Stach, moderátor ČT
——————–
Ty jsi se podílel na vytvoření umělého Edersona Coopera a moderátora americké CNN, poslali jste ho do CNN, kde ho kolegové od toho skutečného nepoznali? Co sis potom řekl.
mluvčí 3,
——————–
Byl jsem trošku v šoku, trochu jsem byl vystrašený a nechci straš slyšet tebe, Dane, tím, že tě tady nahradíme. Ještě to jako nějakou dobu potrvá, ale ta jednoduchost té přípravy, jak nám to zvolilo, třeba čtyři týdny, se dostat do momentu, kdy to bylo jako skoro tam, ale ještě to úplně jako nebylo perfektní a pak jedna věc nás napadla a toto úplně prolomila a pak to prostě jelo a teď jsme tvořili prostě během třeba 10:20 minut a byli na takové úrovni, jako že nám producenti a manažeři ze CNN psali, že vlastně to nepoznali a jako někteří nám psali, že jsou úplně jako z toho, z toho jako v šoku, že to je skvělý, když námpsali, že to je jako hrozný, jako že to děláme a že jako ta stávka teda je potřeba, jak chcete, teda tehdy panovala v Hollywoodu a tak já jsem z toho byl jako v šoku. Vlastně.
mluvčí 8,
——————–
Předpokládám, že mi neřekneš ten trik.
mluvčí 3,
——————–
To si asi nechám pro sebe, promiňte.
Daniel Stach, moderátor ČT
——————–
Ale chápu to správně, že kdyby si chtěl, tak ze mě vytvoříš Avatara, kterého diváci nepoznají během 20 minut.
mluvčí 3,
——————–
Je to tak. Musím říct, že dneska pro češtinu to je ještě trochu horší, ty nejlepší systémy jsou pro angličtinu, pro španělštinu a pro němčinu, že v těch jazycích by mi stačilo třeba 20 vteřin tvého hlasu, možná jedna fotka, možná kousek videa, to by bylo super a stačí mi 20 minut, mám tam notebook, tak to bych vytvořil v angličtině, ten neep fake, pro češtinu to nebude tak kvalitní a trvalo by to trochu déle, ale de tomu rok, možná pár měsíců a bude to tam.
Daniel Stach, moderátor ČT
——————–
Takže když moderuju v angličtině, tak jsem tak říkajíc nahraný.
mluvčí 3,
——————–
Tak proto máš pořad v češtině.
Daniel Stach, moderátor ČT
——————–
Spousta dílů je v angličtině, takže spousta studijního materiálu, ale mě by zajímalo to, jak ty, když se na to podíváš, seš si jistý, že zůstaneš na té světlé straně síly, protože spousta padouchů má taky PhD, které ty chceš studovat? Jestli místo rozpoznávání Deep faejkeů nezačneš dep faky vyrábět.
mluvčí 3,
——————–
Ne, já bych se nemohl sám sobě podívat do zrcadla na Milu. Protože mě baví to, že vstávám jako brzo a mě to baví vlastně jako být venku, když ještě lidi jako nejsou moc venku a hrozně mě to jako nabíjí a to, že bych jako dělal tady ty věci, to mě vlastně jako potom úplně sžíralo zevnitř.
Daniel Stach, moderátor ČT
——————–
Ty tedy děláš věci, které neděláš rád, když vytváříš depfake.
mluvčí 3,
——————–
Je to tak, ale je to potřeba, protože pokud známe přesně ty kroky a ty nedostatky, co tam jsou, tak potom to můžeme lépe detekovat. Takže pro mě to vlastně bylo trošku dilema, jako, musím říct, a hodně jsme třeba s Han, s prof. Faridem potom bavili přes to léto, jestli vlastně o tom psát, jestli vlastně o tom nějak informovat tu komunitu a vlastně veřejnost, protože my jsme vyvinuli nějaký systém na Deep fakeky, který byl z opensors technologií postavený a teďko bychom tam de facto poskytovali kuchařku lidem, kteří přesně na té temné straně síly chtějí použít pro dezinformace, pro podvody. A nakonec převáží ta stránka argumentu, že je potřeba informovat o tom, jak jednoduché to je, abychom se na to připravili, ale jako dilemata to byla jako velká, takže to nebylo úplně komfortní.
Daniel Stach, moderátor ČT
——————–
Zmiňuješ Hanyho Farida, tvého kolegu, jedno z nejrespektovanějších nejcitovanějších odborníků na AI na světě. My jsme se ho zeptali jakýsi ty.
Jaroslav Zoula, redaktor ČT
——————–
Téměř 30 let učím studenty a radím jim na dvou nejlepších amerických univerzitách. Matyáše nelze srovnávat s jinými studenty, on je kategorie sama pro sebe, nikdo se mu ani nepřibližuje. Pokud jde o kombinaci čistého intelektu, kreativity, ochoty řešit neuvěřitelně těžké problémy, neochoty nechat se porazit jakoukoliv překážkou, je úžasný, slušný a starostlivý člověk. Obvykle nerad předpovídám, ale Matyáš bude hvězda, tedy on už hvězdou je, ale jeho hvězda bude zářit stále jasněji bez viditelného konce.
Daniel Stach, moderátor ČT
——————–
To se dobře, ale zároveň těžce poslouchá.
mluvčí 3,
——————–
Že to je těžký, protože s harm se vám zítra volat pracovně, tak to.
mluvčí 11,
——————–
A o tomhle bude konečný.
mluvčí 3,
——————–
No, je to tak, je to tak, ale s Harm ta práce je tak inspirativní a tak super, že to snad teda, to musím nějak jako teda skousnu, ale to teda, to teda jako, to mě rozhodilo, musím říct.
Daniel Stach, moderátor ČT
——————–
Jakou práci odvádíš v Googlu, co tam je tvým úkolem.
mluvčí 3,
——————–
V Goolu jsem měl dvě úlohy, jedna z nich byla ta vlastně odhalit, jestli nějaký model AI, který třeba generuje text nebo obrázky, byl natrénovaný, na jakém konkrétním obrázku, textu, nějakém zdroji, což dneska je, nebo do té doby, než jsem nastoupil goog covidu. Úloha, a to se nám podařilo vyřešit, respektive my přidělujeme té události nějakou pravděpodobnost, že to není vždy definitivní, ale, ale nějak to řešíme s velkou úspěšností. Tak to byla jedna úloha, vlastně ta atribuce nebo odpovídání. Otázku byl můj obrázek, byl můj text pouze pro tvorbu tohoto modelu, to byla jedna část, druhá část byla o detekci nových typů deptiku, kde nejenom upravujeme proslovy a to, co o sobě říkají v těch videích, ale generujeme úplně nová videa z textu. Je to velmi podobně jako třeba dali nebo Majorney, což jsou modely, které generují z textu obrázky, tak dneska již jsou dostupné modely na tvorbu videí z textu, že třeba napíšete kůň nebo pes, který prostě běží po pláni a ten model prostě vygeneruje tu věc úplně přesně, jak jste to, nebo třeba jednorožec, který jako skáče prostě na Stanfordu, tak jsme dělali a ta de redakce tady těch videí, tak tu jsme řešili nebo to jsem řešil v Googlu. Úspěšně, úspěšně.
Daniel Stach, moderátor ČT
——————–
Podívejme se na to, jakým způsobem se učí, anebo neučí umělá inteligence, protože to je také součást tvojí práce, kde si ukázal spolu se svým už citovaným kolegou to, jakým způsobem degeneruje AI, jak vlastně AI, pokud se učí na AI vytvořených obrázcích, vytváří stále horší a horší obrázky. Popiš nám, jak to funguje. Prosím.
mluvčí 3,
——————–
Dnes, když trénujeme modely umělé inteligence, tak pracujeme s daty často z internetu staženými a těch jsou stovky tisíc až miliony, miliony. Potřebujeme skutečně velké, velké datasety datové sady, jinak ty modely se nenaučí dost vlastně diverzní nebo vlastně dost jako rozlišné koncepty modelovat, takže potřebujeme spoustu, dát spoustu obrázků z internetu a teďko ty modely se nějakou dobu učí, nějak upravují své vnitřní reprezentace a poté generují věci nebo obrázky čehokoliv, co popíšeme, to se učí z internetu, a to se stalo někdy nebo poprvé, vlastně ty modely fakt začaly fungovat během, řekl bych, asi třeba období 23 měsíců v roce 2022 a od té doby vidíme na internetu, na sociálních sítích, na stránkách na blozích a i v těch data setech postupně obrázky z AI a nás zajímalo, co se stane, když ty datové sady nově kromě jenom reálných fotek a reálných kreseb budou v sobě mít i své vlastní výtvory, které samy ty modely vytvořily. A protože to do té doby nebyla skutečnost, to se nikdy předtím nestalo, ty modely do té doby pracovaly s čistě jenom našimi lidskými výtvory, jako fotkami, ta kresbami, a to bylo něco nového, tak jsme zkusili natrénovat modely s proporcemi dat z těch modelů vlastních, a to tady potom máme ty výstupy z těch vlastně, my tomu říkáme F vlastně otrávených modelů svými vlastními obrázky a ukazuje se, že ty modely, pokud vidí vlastní obrázky, vlastní výtvory, tak degenerují, tak vlastně zhoršují svou kvalitu do až takových jako skoro halucinogenních podob, támhle halobokem.
Daniel Stach, moderátor ČT
——————–
To znamená, čím více AI učí od AI, tím horší výsledek dělá.
mluvčí 3,
——————–
Prozatím ano.
Daniel Stach, moderátor ČT
——————–
Jak víme, bez ohledu na to, co nám firmy říkají, z čeho reálně učí svoje systémy, se kterými pracují, jakožto s umělou inteligencí, s jakými daty reálně pracují.
mluvčí 3,
——————–
Většina modelů pro obrázky pracuje s datetem Lion Fifbe, což je takový velký. De posbírali vědci z Německa a s pár startupů dohromady ho dali a ten nějak poskládali to nějak vydali a moc lidí vůbec nepřemýšleli nad tím, co v tom testu je, vůbec se nad tím jako nepozastavili a prostě natrénovali na těch milionech, vlastně miliardách obrázků své modely, a to je hodně generátorů tím základem, ale to, co tam předávají ty firmy, co filtrují ty firmy, to dnes reálně nevíme, pokud ty firmy to nezveřejní ve svých nějakých reportech nebo v nějakých článcích, na konferencích, tak nevíme.
Daniel Stach, moderátor ČT
——————–
Platí ale, že pokud dávám svoje fotky na web, na sociální sítě, fotky svých dětí, tak na nich trénuje umělá inteligence.
mluvčí 3,
——————–
Je tomu tak velká část, zároveň musím říci, že v Americe, ta nebo minimálně teda na Stanfordu a v mém jako okolí. Ta nálada je taková, že přesně mi fi. A takže pokud potřebuju hodně dat, tak se prostě stáhnu z internetu, protože tam jich je nejvíc a tam se lidé neptají, jestli to je fotka dítěte nebo jestli to je fotka někoho vašeho třeba známého v nemocnici. Toto mimochodem často je, protože těch daty tolik, že žádný člověk nemůže reálně všechny projít. Jsou to miliardy fotek, to nikdo jako v lidském životě nestihne všechno projít, a proto vaše fotky na internetu, které dneska postujete, na Instagram, Facebook i třeba na soukromé profily tam velmi pravděpodobně jsou.
Daniel Stach, moderátor ČT
——————–
Vím, že to bude návod pro následující měsíce, protože ten vývoj jde obrovsky dopředu, ale v následujících měsících. Na co se mám dívat, abych rozpoznal, že video, které vidím na svém mobilním telefonu, je falešné.
mluvčí 3,
——————–
V první řadě bych si ho zvětšil. Ta videa, pokud jsou malá, jenom vlastně vertikálně prezentovaná, tak mají tak malinkatá ústa, malinkaté často obličeje, že ty detaily se ztratí. A my jako lidé, když máme dva signály, když máme jak zvuk, tak to video, tak jsme hrozně tomu vlastně jako můžeme podlehnout jednoduše, takže bych to zvětšil, dal by se ho horizontálně to video tak, aby, abyste mohli vidět ty detaily těch úst a těch uší a toho pohybu a těch gest a poté bych se zaměřil na ta ústa, ta spodní ústa, spodní ret, konkrétně často se pořád chvěje taky, Brada, často třeba trošku sjíždí a vlastně jako nedává moc smysl a ta gesta, když člověk nebo ten protagonista jako zvýrazňuje nebo podtrhuje nějaká slova, kde to vůbec jako nedává smysl, tak to je dobrý signál. A také bych třeba zkusil zakrýt si ty uši a dívat se, jestli něco je v nepořádku, jak to cítíme.
Daniel Stach, moderátor ČT
——————–
Stále ještě pořád platí, že umělá inteligence není schopná dobře doladit prsty, doladit třeba náušnice.
mluvčí 3,
——————–
To již dnes umí doladit velmi, velmi efektivně, občas se to ještě třeba jako nestane, ale většinu modelů to, že mám pořešené, takže ty rady, co jsem teďko poskytl, budu platit třeba 45 měsíců, si myslím, jako nechci dělat konkrétní predikci, ale víc než půlrok to nebude trvat, než se to spraví.
Daniel Stach, moderátor ČT
——————–
Jak to nastavit systémově, abychom mohli v samotných, případně jak ty navrhuješ metadatech, to znamená, to, co popisuje ten obrázek na první pohled, to není vidět, jsme mohli dohledat, jestli je to uměle vytvořená nebo reálná fotografie.
mluvčí 3,
——————–
To je skvělá otázka, protože dneska už máme technologie na toto vyřešit, dneska existují protokoly, kterými lze zašifrovaně do těch obrázků, videí audií vložit informace o tom, odkud to médium ten soubor pochází, kdo ho pořídil, kde ho pořídil, jak ho pořídil. A ta informace tam zůstane zašifrovaně, to znamená, že pokud někdo s ní chce něco jako udělat, tak ji upravit, tak to tam půjde poznat pro pozznat, že někdo s ní nějak manipuloval. Zároveň tam jsou další informace, poté po té samotné tvorbě nebo generaci, jako třeba úprava Photoshopu nebo nějaká editace základním návrhem, ale telefonu, to vše se tam propíše a ten koncový uživatel nebo koncový recipient, co dostane ten obrázek nebo video? A uvidíme jsem telefonu, tak se může podívat přesně na ten život toho média a co se s ním stalo a přece si říci, jestli tam jako nebyla nějaká manipulace, co by třeba mohla být zavádějící nebo třeba trošku jako falešná.
Daniel Stach, moderátor ČT
——————–
Chtějí tohle státy myšleno? Vlády? Chtějí tohle firmy.
mluvčí 3,
——————–
V Evropské unii? Ten konsenzus na tom je, tam, ta většina je, je pro silnější regulaci, to jsme měli třeba v au, který mimochodem pracuje s velmi podobnými termíny, podobnými technologiemi, takže tam věřím, že do několika let snad bude ta, ta technologie regulovaná vyloženě a vyžadovaná po platformách a o, i po těch firmách, co vytváří ty modely, ale třeba Spojených státech díky lobbingu a různým dalším důvodům. Ty firmy často mají své preference a své vlastně zájmy finanční tak silné, že by radši neměli informace v těch svých platformách, protože co si budeme? Nějaká senzechtivá fotka nebo video nás jako uživatele spíše přitáhne k tomu telefonu a spíše budeme tam trávit čas, a to pro ně znamená reklamu, znamená to nějaký zisk a takže pro ty firmy si myslím, že ta incendena tam jako ještě úplně není. Ony třeba jako z různých důvodů, jako třeba PR se jako podepisují pod nějaké to memorandum, uvidíme, jak reálně ta implementace bude rychlá a uvidíme, jak to stát, tam zareagují.
Daniel Stach, moderátor ČT
——————–
To memorandum. Myslíš, coent? O ten City iniciativ.
mluvčí 3,
——————–
Přesně tak.
Daniel Stach, moderátor ČT
——————–
Kdyby vlastně byl ten, řekněme, rodokmen té fotografie zapsán, ale z toho, co popisuješ, jak dopadnou tedy americké firmy na evropském trhu, půjdou na něj, nebo řeknou, my vám o tuhle regulaci nechceme ani zavadit a na ten trh prostě nevstoupíme.
mluvčí 3,
——————–
Já si netroufnu udělat nějaké silné predikce, nicméně z posledních několika let, kdy ty firmy vždy straší tím, že odejdou z evropského trhu a vždy nakonec se podvolí a implementují ty naše regulace a ve finále ty regulace, co implementují pro Evropu, která je tvrdší, v tom, poté ve finále nechají zapnutá i ve Spojených státech často, takže Evropa má reálně šanci a nějak nastavovat ten trend, na druhou stranu je potřeba reálně brát v potaz některé ty třeba body, které jsou prezentovány, které jsou reálně validní, je potřeba najít jako ten konsensus někde mezi. Takže myslím si, že fináleál firmy neodejdou, ale je potřeba hledat jako někde nějaký jako střet těch zájmů.
Daniel Stach, moderátor ČT
——————–
Jak by ta situace myšleno tím, jak se šíří lži, které jsou vytvořené pomocí tzv. umělé inteligence, vypadala, kdybychom neměli sociální sítě.
mluvčí 3,
——————–
Z mého hlediska by ta otázka, co teďko řešíme, posledních 30 minut, vlastně skoro neexistovala. Ta AI sice akceleruje ty dezinformace a ty defíky, a to, jak tedy dneska šíříme informace, ale ve finále podle mě to je problém sociálních sítí a to, že tam není žádná regulace, respektive žádná vymáhaná zodpovědnost za to, co na těch sociálních sítích vidíme a co ti lidé jsou vlastně nuceni vidět na své hlavní doporučené zdi. Takže podle mě to je problém sociální sítí a ne nutně umělá inteligence.
Daniel Stach, moderátor ČT
——————–
Tedy je tady potenciál pro média, která budou ověřovat, bude jim to trvat déle, ale budou nabízet věrohodné informace.
mluvčí 3,
——————–
Já si to myslím, já si myslím, že role médií tradičních, která v poslední době často řeší různé krize. Právě jak se berou se sociálními sítěmi, jak serovnat s reklamou a se svojí prezentací online, by mohly mít novou roli právě těch garantů nějakého kontextu, garantů té autenticity, těch informací, těch obrázků, těch zdrojů, těch médií, která budou poté dohromady skládat ten obrázek a ten narativ, takže my jako konzumenti zpráv bychom se měli snažit si netvořit rychlé závěry a mít nějakou ochotu trochu si počkat a až na to někdo trochu, trochu dál uvede do kontextu a druhou ta média by měla podle mě vstříc tomuto módu operandy, kterým finále bude podněcovat tu důvěryhodnost, protože ta mi média často chtějí prostě clickbaty a rychle titulky a hodně kliků. A podle mě reálně by se mohl vyplatit i tím pomalejším a etičtějším směrem.
Daniel Stach, moderátor ČT
——————–
Poslední otázka. Neptám se na to, jaký jsi ty. Zajímají mě, jaký jsou tvoji rodiče, jací jsou.
mluvčí 3,
——————–
Jsou nesmírně lidští a podporující a hodní. A vím, že ať se stane cokoliv a ať se mi něco povede nebo nepovede, tak vždycky mě budou mít rádi, a to pro mě bylo vždycky hrozně důležitý. V tom jsem dělal a v tom, čem jsem věřil. Takže jsou skvělý a Mika je tady ve studiu,.
moderátor ČT
——————–
Maty. Děkuju moc za rozhovor a držím palce, aby se všechno víc než dobře dařilo.
Přidejte odpověď