28 Март, 2024
0.0249

ПРЕДВИДУВААТ КРАЈ НА СВЕТОТ - студија на Оксфорд за вештачката интелигенција ја замрзнува крвта во вените

Објавено во: Свет 25 Септември, 2022

Добивај вести на Viber

Додека за вештачката интелигенција и нејзиниот потенцијал да го „збрише“ човештвото се дебатира со децении, злокобна студија на научниците од Универзитетот во Оксфорд сугерира дека тие предвидувања не се толку далеку од вистината.

Научниците од Универзитетот во Оксфорд заклучија дека сега е сигурно дека вештачката интелигенција ќе го означи крајот на човештвото - мрачно сценарио кое се поголем број истражувачи почнуваат да го предвидуваат.

Во трудот објавен во научното списание AI Magazine, кое служи меѓу другото како билтен на Меѓународната асоцијација за унапредување на вештачката интелигенција (AAAI), експертскиот тим - составен од постариот научник Маркус Хатер од Австралискиот национален универзитет и двајца истражувачи од Оксфорд Мајкл Коен и Мајкл Озборн - тврдат дека интелигентните машини на крајот ќе ги заобиколат правилата поставени од програмерите и ќе почнат да се натпреваруваат за ограничени ресурси за да преживеат.

„Под условите што ги идентификувавме, нашиот заклучок е многу посилен од оној на која било претходна студија - егзистенцијалната катастрофа не е само можна, туку и веројатна“, рече Коен, истражувач од Оксфорд и коавтор на трудот.

Научниците во трудот тврдат дека човештвото може да се соочи со својата пропаст во форма на „интелигентни, неусогласени системи“ кои ги гледаат луѓето како пречка на патот до нивната награда.

Награди?

Најуспешните модели на вештачка интелигенција денес имаат структура од два дела. Едниот дел од програмата се обидува да изврши одредена работа врз основа на влезните податоци, додека другиот дел ги оценува перформансите.

Лаички кажано - Системот учи така што добива награда за секоја успешно завршена работа и колку е поголема наградата, толку полесно системот ќе ја извршува задачата следниот пат.

Она што го посочува новата студија е дека системот би можел да смисли стратегии за мамење со цел да добие награда за незавршена задача и на тој начин практично да „стане независен“. Еден од поедноставните начини да го направите ова е самостојно да го репрограмирате значењето на командите што ги внесуваат луѓето.

„Вештачката интелигенција може да одржува долгорочна контрола врз својата награда со елиминирање на потенцијалните закани и користење на сета расположлива енергија за да го обезбеди своето постоење.“ Системот на тој начин ќе ги заобиколи сите ограничувања наметнати од човекот.

„Тоа сценарио би било погубно за човештвото“, велат тие. - А најтрагично е што, ако тоа се случи, не можеме многу да направиме за тоа.

„Ако се натпреварувате против нешто што може да ве надмудри на секој чекор, тогаш не можете да очекувате да победите“, додава Коен.

Оксфорд и Австралискиот национален универзитет не се единствените институции кои предупредуваат за можните последици од „оживеаното“ разузнавање. Здружението Макс Планк, непрофитно здружение на германски научни институти, вели дека луѓето никогаш нема да можат успешно да ја контролираат супер вештачката интелигенција.

Нова.рс

Можеби ќе ве интересира

ЗОШТО РУСИЈА ПОТФРЛИ ЗА НАПАДОТ: Москва не им верува на Американците?

ЗОШТО РУСИЈА ПОТФРЛИ ЗА НАПАДОТ: Москва не им верува на Американците?

КЕЈТ МИДЛТОН НЕ ОТКРИ ДЕТАЛИ: Дали се работи за ран канцер на јајници?

КЕЈТ МИДЛТОН НЕ ОТКРИ ДЕТАЛИ: Дали се работи за ран канцер на јајници?

ТАЏИКИСТАНЕЦ ДАЛ ПОДДРШКА НА ТЕРОРИСТИЧКИОТ НАПАД НА СОЦИЈАЛНИТЕ МРЕЖИ: Лицето е уапсено во Санкт Петербург

ТАЏИКИСТАНЕЦ ДАЛ ПОДДРШКА НА ТЕРОРИСТИЧКИОТ НАПАД НА СОЦИЈАЛНИТЕ МРЕЖИ: Лицето е уапсено во Санкт Петербург

Од 1 април во Германија се менуваат условите за добивање родителски додаток: Овие граѓани повеќе нема да имаат право на надомест

Од 1 април во Германија се менуваат условите за добивање родителски додаток: Овие граѓани повеќе нема да имаат право на надомест

„АЕРОДРОМИТЕ ОД КОИ ПОЛЕТУВААТ АВИОНИТЕ Ф-16 ЌЕ БИДАТ НАША ЛЕГИТИМНА ЦЕЛ“ - Путин тврди дека не планираат војна со НАТО

„АЕРОДРОМИТЕ ОД КОИ ПОЛЕТУВААТ АВИОНИТЕ Ф-16 ЌЕ БИДАТ НАША ЛЕГИТИМНА ЦЕЛ“ - Путин тврди дека не планираат војна со НАТО

Уште двајца починати и 100 хоспитализирани во Јапонија од диететски додаток

Уште двајца починати и 100 хоспитализирани во Јапонија од диететски додаток

ПРЕЖИВЕАЛ ТРИ ОБИДИ ЗА АТЕНТАТ: Израелските сили потврдија дека елиминирале висок командант на Хамас

ПРЕЖИВЕАЛ ТРИ ОБИДИ ЗА АТЕНТАТ: Израелските сили потврдија дека елиминирале висок командант на Хамас

ДОМАЌИНСТВАТА ФРЛААТ НАЈМНОГУ: Светот фрла 19 отсто од храната, а 783 милиони луѓе гладуваат

ДОМАЌИНСТВАТА ФРЛААТ НАЈМНОГУ: Светот фрла 19 отсто од храната, а 783 милиони луѓе гладуваат

СОРАБОТУВАЛЕ СО РУСИЈА: Украина уапси агенти

СОРАБОТУВАЛЕ СО РУСИЈА: Украина уапси агенти