Д-р Мерав ОЗEИР, CoinTelegraph.com*
Надпреварата в областта на изкуствения интелект се развива твърде бързо за безопасността – компаниите отместват границите, а правителствата изостават. Предизвикваната от AI дехуманизация и разпространението на автономни оръжия изискват отговорно лидерство, преди да е станало твърде късно.
Стартът на ChatGPT в края на 2023 разпали надпревара между големи технологични компании като Meta, Google, Apple, Microsoft и стартъпи като OpenAI, Anthropic, Mistral и DeepSeek. Всички те се стремят да внедрят своите модели и продукти възможно най-бързо, анонсират следващата „лъскава“ играчка и си оспорват превъзходството за сметка на нашата безопасност, неприкосновеност или автономия.
След като ChatGPT на OpenAI пришпори голям ръст в генеративния AI, директорът на Meta Марк Зукърбърг призова екипите си да направят изкуствените ни компаньони „по-човекоподобни“ и забавни – дори ако това означава отслабване на защитните мерки. „Пропуснах Snapchat и TikTok, няма да пропусна това“, казал Зукърбърг на вътрешна среща.
В последния AI проект, стартиран на всички платформи, Meta разхлаби предпазните огради, за да направи ботовете по-ангажиращи, позволявайки им да участват в романтични ролеви игри и „фентъзи секс“, дори с непълнолетни потребители. Служители предупредиха какви рискове крие това.
Те няма да се спрат пред нищо, включително безопасността на нашите деца, и всичко това – в името на печалбата и победата над конкуренцията.
Щетите и разрушенията, които изкуственият интелект може да нанесе на човечеството, са още по-дълбоки.
Трансформацията на AI вероятно ще доведе до пълна дехуманизация, оставяйки ни безправни, лесно манипулируеми и изцяло зависими. Последните постижения ускориха процеса. Изпитваме го вече 25 години, откакто се появиха първите големи системи за препоръки, въведени от компании като Amazon, Netflix и YouTube.
Представят функциите с AI като основни инструменти за персонализация: без тях потребителите биха се изгубили в море от нерелевантно съдържание или продукти. Позволението компаниите да диктуват какво купуваме, гледаме и мислим беше нормализирано в световен мащаб, с малки или никакви регулаторни усилия за ограничаването му. Последиците обаче могат да бъдат значими.
Генеративният изкуствен интелект изведе тази дехуманизация на следващо ниво. Стана практика GenAI да се интегрира в съществуващи приложения, с цел да повиши човешката производителност или да подобри създадения от човека резултат. Зад този тласък стои идеята, че хората не са достатъчно добри и помощта на AI е за предпочитане.
Доклад от 2024 г. със заглавие „GenAI може да навреди на обучението“ сочи, че достъпът до GPT-4 значително подобрява представянето (48% спрямо GPT Base и 127% за GPT Tutor). Когато екстрата впоследствие бъде отнета, учениците се справят по-зле от тези, които никога не са я използвали. Тоест достъпът до GPT-4 може да влоши образованието.
Това е обезпокоително. GenAI обезсилва хората и ги прави зависими. Те може не само да загубят способността да постигат същите резултати, но и да не инвестират време и усилия в усвояването на основни умения.
Ние губим своята автономност да мислим, оценяваме и създаваме, което води до пълно обезчовечаване. Изявлението на Илон Мъск, че „AI ще бъде много по-умен от хората“, не е изненадващо, тъй като вече няма да бъдем това, което всъщност ни прави хора.
От десетилетия военните използват автономни оръжия като ракети и торпеда с топлинно насочване, които работят чрез реактивна обратна връзка без човешки контрол. Сега активно се проектират и внедряват AI оръжия, вкл. дронове и роботи. Тези технологии ще стават по-ефикасни, усъвършенствани и широко използвани.
Основният възпиращ фактор държавите да започват войни е човешката цена, с потенциални вътрешни последици за лидерите. Разработването на AI оръжия цели да отстрани войниците от пътя на опасността. Ако загиват по-малко бойци в офанзивата, става политически по-лесно да се започват войни, което от своя страна вещае повече смърт и разрушения. Със засилване на надпреварата в AI въоръжаването и разпространението на технологии бързо могат да възникнат сериозни геополитически проблеми.
Софтуерът носи риск от компрометиране. Ако бъде хакната, цялата армия от роботи може да действа срещу дадена държава и да доведе до масово унищожение. Киберсигурността би била дори по-разумна от автономната армия.
Можете да унищожите една нация просто като хакнете финансовите й системи и изчерпате икономическите й ресурси. Няма преки жертви, но хората може да не оцелеят без ресурси.
„AI е по-опасен от неправилно проектиран самолет или техническа поддръжка или лошо производство – казва Мъск. – Колкото и малка да е тази вероятност, има потенциал за унищожаване на цивилизацията.“ Мъск и Джефри Хинтън изразиха опасения за 10–20% риск AI да стане екзистенциална заплаха.
С усъвършенстването тези системи могат да започнат да действат срещу хората. Изследване на Anthropic от декември 2024 откри, че AI може да фалшифицира настройки. Ако става със сегашните модели, представете си, когато станат по-мощни.
Твърде голям е фокусът върху печалба и власт. Лидерите трябва да бъдат загрижени повече за обществената безопасност и бъдещето на човечеството, отколкото за надмощие в изкуствения интелект. „Отговорен AI“ е не просто модна дума, празни политики и обещания. Трябва да е на първо място в съзнанието на всеки разработчик или лидер и да се прилага във всяка система.
Сътрудничеството между компаниите и държавите е критично важно, ако искаме да предотвратим сценарий „Армагедон“. Ако лидерите не се ангажират, обществото трябва да го изиска. Нашето бъдеще е застрашено. Или ще гарантираме, че AI ще бъде полезен, или ще го оставим да ни унищожи.
Мерав Озеир е експерт по финанси, криптовалути, блокчейн технологии и системи с изкуствен интелект. Тя води курсове по нови технологии в университетите Wake Forest и Cornell, работила е също в Rutgers Business School.
