Mondja el cicájának, mit gondol belülről – a fekete doboz effektust

Az a tény, hogy a fejlett AI-algoritmusok olyanok, mint egy fekete doboz (1), amely eldobja az eredményt anélkül, hogy felfedné, hogyan jött létre, egyeseket aggaszt, másokat pedig felzaklat.

2015-ben a New York-i Mount Sinai Kórház kutatócsoportját felkérték, hogy használja ezt a módszert a helyi betegek kiterjedt adatbázisának elemzésére (2). Ez a hatalmas gyűjtemény óceánnyi beteginformációt, vizsgálati eredményeket, recepteket és egyebeket tartalmaz.

A tudósok a munka során kidolgozott elemző programot nevezték el. Körülbelül 700 XNUMX ember adatai alapján képezte ki magát. emberi, és új regiszterekben tesztelve rendkívül hatékonynak bizonyult a betegségek előrejelzésében. Humán szakértők segítsége nélkül olyan mintákat fedezett fel a kórházi nyilvántartásokban, amelyek azt jelzik, hogy melyik beteg van egy betegség, például a májrák útján. Szakértők szerint a rendszer prognosztikai és diagnosztikai hatékonysága jóval magasabb volt, mint bármely más ismert módszeré.

2. Betegadatbázisokon alapuló orvosi mesterséges intelligencia rendszer

A kutatók ugyanakkor észrevették, hogy ez titokzatos módon működik. Kiderült például, hogy ideális mentális zavarok felismerésemint például a skizofrénia, ami rendkívül nehéz az orvosok számára. Ez meglepő volt, különösen azért, mert senkinek fogalma sem volt arról, hogy a mesterséges intelligencia rendszer hogyan látja ilyen jól a mentális betegségeket a páciens orvosi feljegyzései alapján. Igen, a szakemberek nagyon örültek egy ilyen hatékony gépi diagnosztikus segítségének, de sokkal elégedettebbek lennének, ha megértenék, hogyan jut az AI következtetéseire.

Mesterséges neuronok rétegei

A kezdetektől fogva, vagyis attól a pillanattól kezdve, hogy a mesterséges intelligencia fogalma ismertté vált, két nézőpont volt az AI-val kapcsolatban. Az első azt javasolta, hogy a legésszerűbb olyan gépeket építeni, amelyek az ismert elvek és az emberi logika szerint gondolkodnak, mindenki számára átláthatóvá téve belső működésüket. Mások úgy vélték, hogy az intelligencia könnyebben jön létre, ha a gépek megfigyelés és ismételt kísérletezés révén tanulnak.

Ez utóbbi a tipikus számítógépes programozás visszafordítását jelenti. Ahelyett, hogy a programozó parancsokat írna a probléma megoldására, a program generál saját algoritmus mintaadatok és a kívánt eredmény alapján. A gépi tanulási módszerek, amelyekből a későbbiekben a ma ismert legerősebb mesterséges intelligencia-rendszerek fejlődtek ki, éppen azt az utat járták be, hogy maga a gép programoz.

Ez a megközelítés a 60-as és 70-es években az AI-rendszerek kutatásának peremén maradt. Csak az előző évtized elején, néhány úttörő változtatás és fejlesztés után, "Mély" neurális hálózatok radikális javulást kezdett mutatni az automatizált észlelés képességeiben. 

A mély gépi tanulás olyan rendkívüli képességekkel ruházta fel a számítógépeket, mint például a kimondott szavak majdnem olyan pontos felismerése, mint az ember. Ez túl bonyolult készség ahhoz, hogy előre beprogramozzuk. A gépnek képesnek kell lennie saját "programjának" létrehozására képzés hatalmas adathalmazokon.

A mély tanulás a számítógépes képfelismerést is megváltoztatta, és nagymértékben javította a gépi fordítás minőségét. Ma mindenféle kulcsfontosságú döntés meghozatalára használják az orvostudomány, a pénzügy, a gyártás és egyebek területén.

Mindezzel azonban nem nézhet csak bele egy mély neurális hálózatba, hogy lássa, hogyan működik a "belül". A hálózati érvelési folyamatok több ezer szimulált neuron viselkedésébe ágyazódnak be, amelyek több tucat vagy akár több száz, egymással bonyolultan összefüggő rétegekbe szerveződnek..

Az első rétegben lévő neuronok mindegyike kap egy bemenetet, például a kép egy pixelének intenzitását, majd számításokat végez a kimenet kiadása előtt. Összetett hálózatban továbbítják őket a következő réteg neuronjaihoz - és így tovább, egészen a végső kimeneti jelig. Ezen túlmenően létezik egy olyan folyamat, amely az egyes neuronok által végzett számítások kiigazítását jelenti, hogy a képzési hálózat a kívánt eredményt hozza létre.

A kutyaképfelismeréssel kapcsolatos, gyakran emlegetett példában a mesterséges intelligencia alacsonyabb szintjei olyan egyszerű jellemzőket elemeznek, mint az alak vagy a szín. A magasabbak összetettebb kérdésekkel foglalkoznak, mint például a szőrzet vagy a szem. Csak a legfelső réteg vonja össze az egészet, és a teljes információkészletet kutyaként azonosítja.

Ugyanez a megközelítés alkalmazható más típusú bemenetekre is, amelyek arra késztetik a gépet, hogy saját magát tanulja meg: a hangokat, amelyek a beszédben szavakat alkotnak, a betűket és a szavakat, amelyek az írott szövegben mondatokat alkotnak, vagy például a kormánykerékre. a jármű vezetéséhez szükséges mozgások.

Az autóból nem hiányzik semmi.

Megkísérlik elmagyarázni, mi is történik pontosan az ilyen rendszerekben. 2015-ben a Google kutatói úgy módosították a mélytanulási képfelismerő algoritmust, hogy ahelyett, hogy tárgyakat látott volna a fényképeken, generálta vagy módosította azokat. Az algoritmus visszafelé futtatásával azt akarták felfedezni, hogy a program milyen jellemzőket használ mondjuk egy madár vagy egy épület felismerésére.

Ezek a kísérletek, amelyeket nyilvánosan címként ismernek, elképesztő (3) groteszk, bizarr állatok, tájak és karakterek ábrázolását eredményezték. A gépi észlelés néhány titkának felfedésével, mint például az, hogy bizonyos minták ismétlődően visszaadnak és ismétlődnek, azt is megmutatták, hogy a mély gépi tanulás miben különbözik az emberi észleléstől – például abban az értelemben, hogy kiterjeszti és megkettőzi azokat a műtermékeket, amelyeket figyelmen kívül hagyunk. gondolkodás nélküli észlelési folyamatunkban . .

3. A projektben létrehozott kép

By the way, másrészt ezek a kísérletek megfejtették saját kognitív mechanizmusaink rejtélyét. Talán a mi felfogásunkban van az, hogy vannak különféle érthetetlen összetevők, amelyek miatt azonnal megértünk és figyelmen kívül hagyunk valamit, miközben a gép türelmesen megismétli az iterációit „nem fontos” tárgyakon.

Más teszteket és tanulmányokat is végeztek a gép "megértése" érdekében. Jason Yosinski olyan eszközt hozott létre, amely úgy működik, mint egy agyba ragadt szonda, amely bármely mesterséges neuront megcéloz, és megkeresi az azt legerősebben aktiváló képet. A legutóbbi kísérletben a hálózat „bekukucskálásának” eredményeként absztrakt képek jelentek meg, ami még titokzatosabbá tette a rendszerben zajló folyamatokat.

Sok tudós számára azonban egy ilyen tanulmány félreértés, mert véleményük szerint a rendszer megértéséhez, a komplex döntések magasabb rendű mintázatainak és mechanizmusainak felismeréséhez, minden számítási kölcsönhatás mély neurális hálózaton belül. Ez matematikai függvények és változók óriási labirintusa. Jelen pillanatban ez érthetetlen számunkra.

Nem indul el a számítógép? Miért?

Miért fontos megérteni a fejlett mesterséges intelligencia rendszerek döntéshozatali mechanizmusait? Már most is matematikai modellekkel határozzák meg, hogy mely foglyok szabadulhatnak feltételesen, kik kaphatnak kölcsönt, kik kaphatnak munkát. Az érdeklődők érdeklődnének, hogy miért ez és nem más döntés született, mi ennek az oka és mechanizmusa.

ismerte el 2017 áprilisában az MIT Technology Review-ban. Tommy Yaakkola, az MIT professzora, aki gépi tanulási alkalmazásokon dolgozik. -.

Még az a jogi és politikai álláspont is létezik, hogy az AI-rendszerek döntéshozatali mechanizmusának alapos vizsgálata és megértése alapvető emberi jog.

2018 óta az EU azon dolgozik, hogy megkövetelje a vállalatoktól, hogy magyarázatot adjanak ügyfeleiknek az automatizált rendszerek által hozott döntéseikről. Kiderült, hogy ez néha még a viszonylag egyszerűnek tűnő rendszerekkel sem lehetséges, mint például az olyan alkalmazások és webhelyek, amelyek mélyreható tudományt használnak hirdetések megjelenítésére vagy dalok ajánlására.

Az ezeket a szolgáltatásokat futtató számítógépek maguk programoznak, és olyan módon teszik ezt, amit mi nem értünk... Még az ezeket az alkalmazásokat létrehozó mérnökök sem tudják teljesen elmagyarázni, hogyan működik.