Tehisintellekt läheneb Star Trek: TNG andmetele jubedalt lähemale nüüd, kui ta teab, kas saate seda usaldada või mitte

2024

See ei pruugi olla nii eneseteadlik kui andmed Star Trek: TNG (veel), eriti kuna see droid võiks kassi eest paremini hoolitseda kui mõned inimesed, kuid tehisintellekt on nüüd jõudnud mõistmiseni, kui see pole usaldusväärne.

Mida nüüd nimetatakse sügav tõenduslik regressioon on tõstnud tehisintellekti eneseteadvust. Ta saab teada, millal on suurem tõenäosus ennustamisel viga teha, lähtudes vaadeldavate andmete usaldusväärsusest. Tulevased ennustused lähevad tõenäolisemalt toime, kui neid mõjutavad põhjalikumad ja täpsemad andmed. Vastupidine tähendab, et asjad lähevad tõenäoliselt valesti - ja AI saab seda tunda. Kui ta hindab oma kindlust millegi suhtes, tõuseb see kindlus üles ja alla, sõltuvalt andmetest, mida see toidab. Seejärel saab tehisintellekt 99% täpsusega määrata riski või ebakindluse.

Tundub, et isegi Picard oleks muljet avaldanud - aga oodake. Eneseteadlikel robotitel on vaid üks puudus ja see on see, et 99% ei ole täielik kindlus, olenemata sellest, kui lähedal see on. Ainult 1% mahajätmine võib tähendada katastroofi potentsiaalselt eluohtlikes stsenaariumides, alates autonoomse auto juhtimisest kuni operatsiooni läbiviimiseni. Hirmutav.

rahvusliku lambipadruni jõulupuhkuse vanemate juhend

Kuigi [sügav tõenduslik regressioon] pakub olemasolevate lähenemisviiside ees mitmeid eeliseid, on selle peamisteks piiranguteks seadistuskoefitsiendi häälestamine ja ebakindlate tõendite tõhus eemaldamine ebakindluse kalibreerimisel, ütles MIT Ph.D. õpilane Alexander Amini , kes juhtis uuringut, mille ta esitab järgmisel kuul toimuval NeurIPS -i konverentsil.

See, mida Amini ja tema meeskond on suutnud teha, on endiselt üsna tähelepanuväärne. Enne seda oli tehisintellekti kasutamine määramatuse hindamiseks mitte ainult kallis, vaid ka liiga aeglane otsuste jaoks, mis tuleb langetada sekundite murdosa jooksul. Närvivõrgud võivad olla nii tohutud, et neil võib vastuse arvutamiseks kuluda igavesti ja ootus, et teada saada enesekindlustase, oleks liiga pikk, et isegi vaeva näha. See oleks mõttetu eneses midagi sellist kasutada -juhtiv auto, mis peab teadma, millist pööret kohe teha. Protsess on kiiresti edasi liikunud sügava tõendusliku regressiooni abil. Seda närvivõrku tuleb ebakindluse taseme väljaselgitamiseks käitada ainult üks kord.

lilla sulgede tähendus

Arvatades ebakindlust mudelis, mille tehisintellekt on juba õppinud, saab see meile ligikaudselt öelda, kui lai on veamarginaal. AI kasutab oma hinnangu kinnitamiseks tõendeid. Need tõendid hõlmavad igasugust ebakindlust, mis varitseb närvivõrgu äsja analüüsitud andmeid või selle eneseteadvust, kui kindel on ta oma otsuses. Amini ja tema meeskond testisid sügava tõendusregressiooni meetodit, õpetades AI -d hindama pildi iga piksli sügavust. Sügavuse tajumine võib tähendada elu või surma operatsioonis, mis peab eemaldama kasvaja, mis võib asuda sügaval kehas ja mida on muidu raske näha.

AI oli enamasti täpne, aga see ajas sassi kord söödeti pilte, mida oli raskem meelde jätta. Vähemalt oli üks asi, mille osas see oli järjekindel: raskuste tekitanud piltidega silmitsi seistes teavitaks ta meeskonda oma ebakindlusest. Selle kindlaksmääratud veamarginaal võib vähemalt õpetada teadlasi seda mudelit täiustama. Selle võime ära tunda Photoshopis pildistatud pilte avab ka võimaluse tuvastada sügavaid võltsinguid. Inimesed peavad lihtsalt teadma, et see roboti aju on endiselt ekslik ja me ei saa seda rohkem usaldada, kui ta saab ennast usaldada.

Usume, et on vaja täiendavat uurimist, et leida alternatiivseid viise eksitavate tõendite eemaldamiseks, Ütles Amini .

See tähendab, et tehisintellekt, kes suudab mõelda sügava tõendite regressiooni abil, on üsna usaldusväärne, kui vale vastuse tulemus ei oleks surmav.