Něco o Alice a Bobovi

• Kategorie: Sloupce

Boti s kreativními jazykovými schopnostmi se chopili populární představivosti. Také znovu rozdmýchali obavy z robokalypsy

Alice a Bob, roboti na Facebooku, kteří se proslavili kvůli neočekávaným nedostatkům v programovací logice, jsou součástí experimentu na sestavení vyjednávacích strojů. C R Sasikumar

Internet byl v plamenech dramaticky zkázou nabitých titulků, které prohlašovaly, že Facebook musel vytáhnout špunty na roboty s umělou inteligencí (AI), kteří vyvinuli svůj vlastní jazyk, ve kterém vedli nelidské soukromé konverzace. Čtou jako upoutávky na globokalypsu Terminátora, která je nejhorší noční můrou primátů využívajících nástroje – kterou má nahradit její vlastní výtvor, stroj.

Realita je méně dramatická, ale více vzrušující. Boti jsou autonomní agenti původně naprogramovaní k provádění úklidových úkolů na komunikačních kanálech nebo k pokusu o absolvování Turingova testu. Mohou vás přihlásit, vyhodit vás, pokud se chováte špatně, nechat chatovací místnosti otevřené, když nikdo není doma, poskytovat informace a vydávat se za lidi. V systému Internet Relay Chat byl bot Eggdrop vůbec nejoblíbenějším.

Vnuci takových domovních robotů jsou zabudováni do moderních vyhledávacích agentů a messengerů a mají schopnosti umělé inteligence. Mluví s uživateli spíše jako člověk, odpovídají na běžné dotazy a nabízejí rady. Pokud se zdá, že váš telefon zná vaši mysl a vytáhne správné věci, aniž byste se museli ptát, velká část zásluh musí patřit robotům pracujícím v zákulisí. Stejně jako lidé se i boti mohou učit ze zkušeností a jsou předurčeni k větším věcem v situacích reálného světa.

Alice a Bob, roboti na Facebooku, kteří se proslavili kvůli neočekávaným nedostatkům v programovací logice, jsou součástí experimentu na sestavení vyjednávacích strojů. Jednoduše vymýšleli, jak sdílet sadu předmětů, jako jsou míče, aby se ani jedna strana necítila podvedena. Při smlouvání Alice pronesla zpočátku nesrozumitelná prohlášení typu, Kuličky mají nulu ke mně ke mně ke mně ke mně ke mně... A následovaly děsivé titulky.

Učení je poháněno pobídkami, jak vědí učitelé a rodiče. V tomto případě byl definován systém odměn cvičení — lepší podíl a oboustranná spokojenost, podstata vyjednávání. Ale pro roboty nebyla žádná pobídka, aby pokračovali v komunikaci v angličtině, což je notoricky nelogický jazyk. Vklouzli tedy do zjednodušeného, ​​efektivnějšího argotu podobného newspeaku, který není tak docela anglický, ale není nesrozumitelný, jak bylo inzerováno.

Alicino prohlášení, které bylo mylně vykládáno jako tvrzení o nezávislosti stroje, pouze naznačovalo zděšení z toho, že je málo změněné (má nulu), a každý pro mě představoval objekt, který požadovala. Dělala přesně tu práci, na kterou byla naprogramována: Smlouvání usilovné jako prodavačka na istanbulském Velkém bazaru. A pokud zjistila, že královnina angličtina stojí v cestě, nebyla sama. Mnoho ras z bývalých kolonií mělo pocit, že mistrovský jazyk brání komunikaci v jejich komunitách.

Pouze profesionální lidští vyjednavači musí být znepokojeni, pokud obři Silicon Valley investují do vyjednávacích programů. Teroristé a vrcholáři by se také měli obávat penzijního připojištění, protože v situacích jako rukojmí a mezinárodních dohodách se mohou ocitnout tváří v tvář nevyzpytatelnému, nesmiřitelnému stroji, který je mnohem chytřejší než Deep Blue, superpočítač IBM, který v roce 1996 vyzval šachového šampióna Garryho Kasparova.

Nutkání rozvíjet soukromé jazyky je velmi lidská vlastnost. Než byly burzy zpracovány počítačem, makléři na obchodním parketu sdělovali nabídky ručními signály, které byly pro ostatní nesrozumitelné. Po staletí byly orgány činné v trestním řízení zmateny zlodějskými hantýrkami, umělými jazyky odsouzenců, které jsou bláboly pro jejich žalářníky. Mezi anglicky mluvícími zločinci 20. století nesmyslné slovo arkitnay znamenalo: Drž hubu, někdo odposlouchává. William Henry Sleeman v Indii studoval Ramaseeana, převýšení Thuggee, a publikoval slovní zásobu v roce 1836. Jednou z nejméně hraných, ale nejzajímavějších her Toma Stopparda je Doggův Hamlet, ve kterém školáci hrají Shakespeara ve svém jazyce, Dogg. Bylo to něco jako transpoziční šifra. Například odpoledne znamenalo v Doggovi ahoj.

Nezáleží na doomsayers, na Alici a Bobovi je zajímavé to, že při vytváření jazyka zradili velmi lidskou vlastnost, ke které nebyli výslovně naprogramováni. Před šedesáti lety byli napsáni první roboti, aby prozkoumali přesně tuto otázku: Lze stroje naprogramovat, aby se chovaly jako lidé? Mohli by projít Turingovým testem? V článku z roku 1950 nazvaném Computing Machinery and Intelligence Turing v podstatě navrhl, že pokud se komunikace stroje jeví jako lidská, pak by měl být stroj považován za člověka.

První bot zpracovávající přirozený jazyk, který vyšel z laboratoře a získal masovou popularitu, byla Eliza, kterou v roce 1964 vytvořil Joseph Weisenbaum na MIT. Napsal to, aby ukázal, že textová komunikace mezi člověkem a strojem nemůže dosáhnout úrovně lidské konverzace. Naopak Eliza vyvolala očekávání veřejnosti, že obstojí v Turingově testu. O třicet let později byly ještě větší naděje inspirovány Julií, kterou vytvořil zakladatel Lycos Michael Mauldin, aby soutěžila o Loebnerovu cenu, svatý grál z Turingova testování. Ale za bodem se Juliiny chaty stočily do náhodných úvah o vlastnostech psů a koček (můžete chatovat s její moderní verzí na scratch.mit.edu/projects/2208608).

Nyní se lidové představivosti chopili roboti s kreativními jazykovými dovednostmi a znovu rozdmýchali obavy z robokalypsy. Ale vývoj v laboratoři AI společnosti Google je ve skutečnosti mnohem vzrušující. V září 2016 Google uvedl do provozu svůj Neural Machine Translation System, který aplikuje hluboké učení na jazyk. O dva měsíce později podali obálku: Kdyby se stroj naučil překládat, řekněme, mezi hindštinou a němčinou a mezi hindštinou a angličtinou, mohl by překládat mezi angličtinou a němčinou bez překlenovacího jazyka hindštiny? Mohlo by to naznačovat, že neuronová síť se naučila něco zásadního o tom, jak mysl spojuje pojmy a gramatiky s falšováním jazyků. Malá žlutá babelská ryba podobná pijavicím, živý univerzální překladač, který si na konci sedmdesátých let vysnil Douglas Adams, se nyní vznáší u vašeho ucha.

Samozřejmě, protože neexistuje žádná dlouhodobá prognóza pro AI, varování lidí, kteří by to měli vědět lépe, jako Elon Musk a Stephen Hawking, by měla být věnována náležitá pozornost. Navzdory protestům zastánců svobody inovací, jako je Mark Zuckerberg, by měla existovat regulace. A měl by se vyvinout všeobecný konsenzus, který by se dohodl na liniích, které se nesmí překračovat, jako v případě zásahů do lidského genomu. Ale nelze popřít, že experimenty na Facebooku a Google posouvají původní účel AI, kterým bylo modelování a pochopení aspektů lidské mysli. Odpudivé mediální příběhy, které přitahují, jsou pomíjivé pocity. Druhý den jsou vhodné na obalování ryb.