Как щеше да се развие действието в „Терминатор“, ако Скайнет беше решил, че вероятно не е достатъчно отговорен, че да притежава достъп до целия ядрен арсенал на САЩ? Оказва се, че учените вероятно успяха да ни спасят от подобен ИИ-апокалипсис, създавайки невронна мрежа, която знае кога е ненадеждна.
Тези невронни мрежи, създадени посредством процеса на дълбоко обучение*, имат за цел да имитират човешкия мозък, като претеглят множество фактори и забелязват шаблони в масиви от данни, за които хората не притежават капацитета да анализират.
Въпреки че все още сме далече от създаването на изкуствен интелект като Скайнет, ИИ вече взима решения в сфери, които засягат човешките животи – например автономно шофиране и медицински диагнози. Ето защо е изключително важно изкуственият интелект да е колкото се може по-прецизен. Тук идва на помощ и новосъздадената невронна мрежа – тя може генерира свои собствени нива на увереност, както и на предположения.
„Ние трябва да имаме не само високопроизводителни модели, но и да знаем кога не бихме могли да им имаме доверие“, казва компютърният учен Александър Амини от Масачузетския технологичен институт и Лабораторията за изкуствен интелект CSAIL.
Новата система, осъзнаваща своята благонадеждност, се казва Deep Evidential Regression и базира своята оценка на качеството на наличните данни, с които се налага да работи – колкото по-точна и изчерпателни са те, толкова по-вероятно е бъдещите предположения да сработят.
Изследователският екип сравнява Deep Evidential Regression със система за безпилотно шофиране, която разполага с различни нива на сигурност, на базата на които преценява дали да премине през кръстовище или да изчака за всеки случай (ако не е толкова уверена в предположенията си).
Да, и преди са създавани подобни предпазни мерки в неввронните мрежи. Това, което отличава тази обаче, е скоростта, с която работи – не се нуждае от голяма изчислителна мощ. Нивото на увереност и решението, което взима, се реализират едновременно.
Учените тестват системата, като я карат да прецени дълбочините в различни части на изображение (по същия начин, по който една кола трябва да прецени разстоянието например). Невронната мрежа се справя като цяло добре и успява да прецени адекватно нивата си на несигурност – т.е. онези случаи, в които е била най-малко сигурна относно дълбочината в изображението.
„Все по-често ще виждаме подобни невронни мрежи в реалния свят – в ситуации, които засягат хората и последствията са потенциално животозастрашаващи“, казва Амини.
Можете да прочетете изследването на учените ТУК.
*Дълбокото обучение е метод за възпроизвеждане на гъстата мрежа от неврони на мозъка. Чрез работа с няколко потока данни едновременно, компютрите могат да намалят значително времето, необходимо за обработване на данните. Прилагането на тази техника за дълбоко обучение създава изкуствени невронни мрежи. Тези мрежи се състоят от серия възли. Има входни възли за получаване на данни, изходни възли за получените данни и скрити слоеве на възли в средата. Целта е входните данни да се трансформират в нещо, което могат да използват изходните възли. Това е мястото, където се появяват скритите слоеве. Тъй като данните напредват през тези скрити възли, невронната мрежа използва логиката, за да реши кой възел да предаде данните на следващия.
