Фен зона

Индустрията на изкуствения интелект е все по-разделена относно степента на автономност, която моделите с изкуствен интелект трябва да имат.

Снимка: vecstock

Ръководителят на отдела за изкуствен интелект в Microsoft, Мустафа Сюлейман, предупреди, че неконтролираното внедряване на модели на изкуствен интелект с човешки черти може да доведе до появата на нови „силициеви същества“, които ще се конкурират със своите създатели.

В интервю за предаването „Today“ по радиото на BBC, Сюлейман разкритикува подхода на Anthropic (директен конкурент на Microsoft), който третира изкуствения интелект като човекоподобна личност.

Думите му са поредното предупреждение от представители на технологичната индустрия, които напоследък предупреждават за опасностите от бързо развиващите се системи с изкуствен интелект.

„Мисля, че ако създадем [модели] с изкуствен интелект, които могат да действат автономно, да дефинират задачи сами, да печелят пари, да притежават собственост и да управляват компании, тогава по същество ще създадем нов вид силициеви същества, които несъмнено ще се конкурират с нас за ресурси“, каза Сюлейман.

„И няма значение до каква степен ги е грижа за човечеството или ни обичат“, добавя той.

Според Сюлейман, Anthropic избягва да насища своите AI модели с човешки качества – практика, известна като антропоморфизация. Това създава впечатлението, че чатботът Клод има свои собствени желания, ценности и самосъзнание.

Как да използвам ChatGPT, за да разбера резултатите от изследванията? Отговори на лекар

Тази седмица ръководителят на отдела за изкуствен интелект в Microsoft публикува статия, в която поставя под въпрос подхода за обучение на Клод, въпреки че нарече главния изпълнителен директор на Anthropic Дарио Амодей и неговия екип „интелектуално честни хора“.

Той предупреди, че компанията рискува да създаде нещо, което би било невъзможно да се контролира.

„Моделите с изкуствен интелект не са съзнателни. Те не могат да чувстват, преживяват или страдат. Нямат присъщи предпочитания или фундаментални мотивации“, пише Сюлейман. „Те са модели за предсказване на последователности, вътрешно празни, проектирани да следват инструкции и да изпълняват задачи, възложени им от хората.“

Сюлейман смята, че онези, които се страхуват от прекомерно бързото развитие на системите с изкуствен интелект, са прави, но настоява, че има „много практични стъпки, които можем да предприемем“, за да ги контролираме.

Как да създадем „хуманистичен изкуствен интелект“?

По-специално, Сюлейман предлага компаниите да разкриват повече информация за принципите на обучение и оценка на модели с изкуствен интелект и се застъпва за създаването на по-ефективни инструменти за наблюдение на тази технология .

„Не можем сляпо – като сомнамбулите – да вземаме решения, за които по-късно горчиво ще съжаляваме“, написа говорителя на Microsoft.

Професорът по компютърни науки Уенди Хол от Университета в Саутхемптън нарече изявленията на Сюлейман част от „точно такъв дебат, какъвто трябва да се води в международен план“. Тя ги противопостави на „истеричната реторика“, излъчвана от някои компании за изкуствен интелект, която според нея само е „уплашила всички“.

Индустрията на изкуствения интелект е все по-разделена относно степента на автономност, която моделите с изкуствен интелект трябва да имат.

По-добре да не питате! Половината от отговорите на AI на здравни въпроси са грешни, дори и да звучат убедително

В интервюто за Би Би Си, Сюлейман настоява, че тази технология трябва да бъде подчинена на хората – подход, известен като привеждане на системите с изкуствен интелект в съответствие с човешките ценности (или AI alignment).

„Хубавото тук е, че всички, които са хора, са много заинтересовани системите, които създаваме, да се използват безопасно от всички страни по света и да бъдат контролирани и подчинени на човечеството“, смята Сюлейман.

Microsoft създаде подразделение за „суперинтелект“ през октомври 2025 г. Подобно на Anthropic, тази компания разработва свои собствени модели за изкуствен интелект.

Изявленията на Сюлейман отразяват идеите, съдържащи се в проекта за „Кодекс за поведение за хуманистичен изкуствен интелект “, публикуван от Microsoft в понеделник. Той очертава насоките на компанията за разработване на изкуствен интелект, както и концепцията за „хуманистичен суперинтелект“.

Правилата го описват като „изкуствен интелект на много високо ниво, който работи за хората, не излиза извън рамките на ограниченията и остава под човешки контрол“.

Концепцията на компанията за „хуманистичен“ изкуствен интелект подчертава ключовото предизвикателство пред тази технология: как да я направим по-мощна, без да губим от поглед ценностите, на които е предназначена да служи.

Чатботът Грок казал на мъж, че някой идва да го убие – човекът чакал „гостите“ с нож и чук

Четете LifeOnline.bg където ви е удобно Telegram , Instagram , Facebook