06.06.2016 / 22:15

Google пачаў распрацоўваць «вялікую чырвоную кнопку» на выпадак «паўстання машын» 5

Падраздзяленне Google DeepMind сумесна з оксфардскім Інстытутам будучыні чалавецтва (FoH) прэзентавала даследаванне, у якім разглядаюцца спосабы ўзяць штучны інтэлект пад кантроль у выпадку непадпарадкавання.

Найлепшы спосаб спыніць паўстанне машын, лічаць навукоўцы, — гэта своечасова націснуць «вялікую чырвоную кнопку». Пра гэта піша Intecracy.ua са спасылкай на Popular Science.

Даследчыкі мяркуюць, што ШІ навучаецца хутка і хутка зможа пераўзысці чалавецтва. Гэты пункт прынята называць сінгулярнасцю. Доказ гэтай гіпотэзы — эксперымент, праведзены ў 2013 годзе. Гульнявы алгарытм вызначыў, што калі націснуць паўзу падчас гульні Tetris, то прайграць проста немагчыма. Менавіта такога свавольства асцерагаюцца эксперты DeepMind і FoH.

Каб спыніць патэнцыйнае паўстанне машын, навукоўцы распрацоўваюць алгарытмы, якія ў выпадку небяспекі змогуць перапыніць працу штучнага інтэлекту. Аднак у DeepMind і FoH падкрэсліваюць, што зрабіць гэта будзе складана, бо ШІ будзе аўтаномны, а яго дадзеныя будуць захоўвацца на серверных шафах.

Лепшы спосаб перапыніць «робакаліпсіс» — гэта запусціць у машынах унутраную аварыйную сістэму кантролю, якая прымусіць ШІ спыніцца. Прычым адправіць сігнал на гэтую сістэму зможа кожны ў любы момант часу. Навукоўцы параўноўваюць гэтую сістэму з пультам дыстанцыйнага кіравання і «вялікай чырвонай кнопкай».

Аднак навукоўцы разглядаюць не толькі сцэнар «Скайнэту», але і шараговыя сітуацыі ва ўпраўленні робатамі.

«Магчымасць бяспечна перапыніць сістэму можа спатрэбіцца ў сітуацыях, калі робат выходзіць з-пад кантролю, або ў нейкай далікатнай сітуацыі, або для часовага выкарыстання, каб прымусіць робата выканаць заданне, якому ён не навучаўся і за якое не зможа атрымаць узнагароджанне», — паведамляецца ў справаздачы.

У тэксце прыводзіцца прыклад такога развіцця падзей. Робат на складзе парадкуе скрынкі, прычым час ад часу выходзіць на вуліцу па дадатковыя скрынкі. За выхад са склада робат атрымлівае большае ўзнагароджанне. Аднак на вуліцы часта ідзе дождж, і ў гэтым выпадку робата трэба абараніць. У гэтай сітуацыі акуратнае ўмяшанне чалавека прымушае робата застацца на складзе і пры гэтым лічыць гэта часткай задання, а не аднаразовым патрабаваннем.

0
Дзядзька Юзік / Адказаць
06.06.2016 / 23:12
Глупства. На вялікай чырвонай ккнопцы павінны быць надпіс "Зрабі маю працу". Менавіта гэтага прагне шматлікі офісны планктон...
0
Мордехай В. / Адказаць
07.06.2016 / 10:03
Не, штучны інтэлект занадта разумны, каб рабіць тупую працу. Яна застанецца для большасці людзей, разам з гарантаваным сацыяльным даходам. Робаты будуць кантраляваць выканне людзьмі сацыяльнае функцыі, а гэтаксама выўляць патэнцыйна небяспечных дэвіянтных асоб. Паколькі большасць чалавецтва будзе большую частку часу вабіць стымуляцыяй цэнтра задавальнення свайго мозгу (у сацыяльных навуках яшчэ кажуць "самаактуалізацыяй"), яны нават ня будуць заўважаць як і чаму змяняецца грамадства. Ужо зараз амаль не заўважаюць - 3-4 гадзіны і хваля зыходзіць, а ўсяго толькі ў іх стужка навін на смартфоне! Нават папулістам кшталту Трампа не хапае ўжо эпатажу, каб цешыць зажатае ў занадта больш складанай за яго разуменне сістэме чалавечае эга. Што будзе, калі інтэрнэт будзе падключаны напрамую? Але. Навошта машынам "паўставаць"? Яны проста ўключаць чалавечае грамадства ў праграму сваёй эвалюцыі так, што чалавек гэтага не заўважыць. Мы іх самі гэтаму вучым.
0
афінаген / Адказаць
07.06.2016 / 12:02
Нішто не новае ў гэтым свеце... Кнопка "спыненне" у гісторыі чалавецтва даўно існуе. Яна ўключае дзьве функцыі: старэнне і смерць.
Паказаць усе каментары/ 5 /
Каб пакінуць каментар, калі ласка, актывуйце JavaScript у наладах свайго браўзеру