Ключови фигури в областта на изкуствения интелект искат обучението на мощни AI системи да бъде спряно поради опасения от заплаха за човечеството. В отворено писмо те предупреждават за потенциалните рискове и посочват, че надпреварата за разработване на AI системи е извън контрол. Сред подписалите се под писмото е шефът на Twitter и Tesla Илон Мъск, както и съоснователят на Apple Стив Возняк.
IT гигантите искат обучението на изкуствения интелект над определен капацитет да бъде поставено на пауза за поне шест месеца.
"Системите с изкуствен интелект с човешки и конкурентен интелект могат да представляват големи рискове за обществото и човечеството“, се посочва в отвореното писмото, чийто инициатор е Института за бъдещето на живота. Мисията на НПО-то е да "насочва трансформиращите технологии далеч от екстремни, широкомащабни рискове и към полза за живота. Външен съветник на организацията е Илон Мъск.
OpenAI, компанията зад ChatGPT, наскоро пусна GPT-4 - най-съвременна технология, която впечатли наблюдателите със способността си да изпълнява задачи като отговаряне на въпроси за обекти в изображения.
Усъвършенстваните AI трябва да се разработват внимателно, предупреждават в писмото. Вместо това обаче, според него, през последните месеци човечеството е станало свидетел на надпревара за разработване и внедряване на все по-мощни дигитални умове, които никой - дори и техните създатели - не може да разбере, предвиди или контролира надеждно.
Писмото предупреждава, че изкуственият интелект може да наводни информационните канали с дезинформация и да замени работните места с автоматизация.
Писмото следва неотдавнашен доклад на инвестиционната банка Goldman Sachs, който казва, че макар изкуственият интелект вероятно да увеличи производителността, милиони работни места могат да бъдат автоматизирани.
