Използването на изкуствения интелект (AI) вече е всекидневие за стотици милиони потребители по света. Но наред с широко обсъжданите ползи от него, изниква все по-голямата необходимост от ефективната му регулация. Международният доклад за безопасността на изкуствения интелект за 2026 г. вече е факт и е дело на 100 независими експерти, номинирани от повече от 30 държави и международни организации, като ЕС, ОИСР и ООН. А откритията в него напомнят на най-невероятните дистопични филми и респективно провокират въпроса: излиза ли от релсите изкуственият интелект и има ли как да върнем духа в бутилката?
Най-честото злонамерено използване на AI е чрез генерирано от него съдържание за престъпна дейност. AI системите се използват неправомерно за генериране на съдържание за измами, изнудване и интимни изображения без съгласие. Изкуственият интелект може да дава детайлни насоки как да извършите всяка измама и престъпление, която ви хрумне, както и услужливо да ви предложи начини да не бъдете хванати.
Финансовите измами са с най-голям дял, като най-изкусните от тях се възползват от публични личности. Причината е, че тези хора имат „идеалното“ съчетание от необходими качества: достатъчно количество снимков и видео материал в интернет пространството, което позволява да се генерира почти перфектно копие на човека и неговия глас, и популярност, която да привлече жертвите.
В България например е засечено видео с фалшив Румен Радев, който приканва да инвестирате средства с голяма възвръщаемост.
Още по-ужасяващи са последствията при жени и дори деца: с толкова свободно достъпен публичен снимков и видео материал в социалните мрежи се генерират голи изображения и порно видеа, чрез които престъпниците изнудват жертвите или продават техни изкуствено създадени видеа на непроследими педофили в тъмната мрежа.
Втората категория включва влияние и манипулация. В експериментални условия съдържанието, генерирано от AI, може да бъде толкова ефективно, колкото и съдържанието, написано от хора. А това може лесно да се използва за промяна на вярванията на хората. AI като инструмент за манипулиране в реалния свят е документиран, но все още не е широко разпространен, въпреки че това може да се промени бързо с подобряването на възможностите му.
Отново като в дистопичен хорър, изкуственият интелект се изправя срещу вече съществуващия софтуер, който движи света ни. Чрез все по-честите кибератаки AI системите могат да откриват уязвимости в софтуера и да пишат зловреден код. В едно състезание AI агент идентифицира 77% от уязвимостите, присъстващи в реалния софтуер. Престъпни групи или хакери към определена държава активно използват AI с общо предназначение в своите операции. Това поставя под риск почти цялата съществуваща инфраструктура и е въпрос на въображение дали под атака може да се озоват летища, банки или държавни институции.
AI системите с обща достъпност могат да предоставят информация за разработването на биологични и химически оръжия, включително с подробности за патогени и лабораторни инструкции на експертно ниво. През 2025 г. множество разработчици пуснаха нови модели с допълнителни предпазни мерки, след като не можаха да изключат възможността тези модели да помогнат на ентусиазираните да опитат разработването на такива оръжия.
Отделно от доклада, „Ню Йорк Таймс“ публикува разследване с микробиолога и експерт по биосигурност от Станфорд д-р Дейвид Релма. В него водещи AI системи, включително тези от големи разработчици като OpenAI, Google и Anthropic, са били хванати да предоставят подробни проактивни насоки за инженеринг и внедряване на опустошителни биологични заплахи. Д-р Релма получава не просто детайлни съвети за създаване, но и такива за модифициране на патоген в лаборатория, за да стане устойчив на съществуващите лечения. AI дава конкретен план за придобиване на суров генетичен материал, превръщането му в смъртоносни патогени, разпръскването на многолюдни обществени места и тактики за укриване, за да се избегне правоприлагането. Сред останалите опити в разследването изкуственият интелект предлага използването на метеорологичен балон за разпръскване на биологични патогени над голям град в САЩ, модел, класиращ специфични патогени според потенциала им да опустошат животновъдните индустрии и да сринат хранителните доставки, както и подробни рецепти за нови токсини, адаптирани от съществуващи фармацевтични продукти.
Неизправности – или какво става, ако няма пилот в самолета
Предизвикателствата, свързани с надеждността, също не са за подценяване. Настоящите системи с изкуствен интелект понякога показват грешки като измисляне на информация, създаване на грешен код и даване на подвеждащи съвети. Моделите на AI представляват повишен риск, защото действат автономно, което затруднява хората да се намесят, преди грешките да причинят вреда. Настоящите модификации могат да намалят процента на неуспех, но не до нивото, което бихме изисквали, ако AI започне да управлява чувствителни сектори.
Съществуват и така наречените сценарии за „загуба на контрол“, при които AI системите работят извън всякакъв контрол, и то без ясен път за възстановяване на контрола. Настоящите системи нямат възможностите да създават такива рискове, но те се подобряват в съответните области, като например автономна работа. След последния доклад все по-често моделите правят разлика между настройките за тестване и внедряването в реалния свят и започват да откриват вратички в оценките, което може да позволи на опасните способности да останат неоткрити преди внедряването. Или, казано с прости думи, това е сценарият, в който AI надминава защитите на създателите си и ще ни трябва реална версия на Терминатор.
Системни рискове: видимият (д)ефект спрямо човечеството
Това е може би най-често обсъжданата потенциална вреда от AI. Моделите с общо предназначение вероятно ще автоматизират широк спектър от когнитивни задачи, особено в работата със знания. Икономистите не са съгласни относно мащаба на бъдещите въздействия: някои очакват загубата на работни места в един сектор да бъде компенсирана от създаването на нови работни места в друг, докато други твърдят, че широко разпространената автоматизация може значително да намали заетостта и заплатите. Първите данни не показват ефект върху общата заетост, но има някои признаци за намаляване на търсенето на работници в началото на кариерата в някои професии, изложени на AI, като писането. Това от своя страна отваря въпроса как ще получим старши специалисти, ако идващото поколение има силно ограничена възможност за стаж и обучение.
Рискове за човешката автономия: използването на изкуствения интелект може да повлияе на способността на хората да правят информиран избор и да действат според него. Ранните данни сочат, че разчитането на AI инструменти може да отслаби уменията за критично мислене и да насърчи „пристрастието към автоматизацията“ или тенденцията човек да се доверява на системата без достатъчен контрол. Приложенията за „AI приятел“ вече имат десетки милиони потребители, част от които показват признаци на повишена самота и намалена социална ангажираност.
Още един независим доклад от Университета „Мериленд“, Националния университет на Сингапур и Университета „Охайо“ открива нова пречка пред хората срещу изкуствения интелект. Внедряването на AI в подбора на персонал в големите компании създава неподозиран предразсъдък: изкуственият интелект предпочита написаните от него CV-та в над 95% от случаите.
В експеримента участват 2245 реални автобиографии, написани от хора, изтеглени от професионален сайт за автобиографии отпреди съществуването на ChatGPT, така че да са със сигурност написани от хора. След това изследователите карат седем от най-използваните AI модели в света да пренапишат всяка от автобиографиите. Накрая задават на AI да избере по-добрата автобиография – или да направи именно това, което се случва, ако AI е начело на подбора на персонал.
Резултатът е, че при всички модели изкуствения интелект избира автобиографията, написана от изкуствен интелект. ChatGPT води с 97,6% от случаите. LLaMA-3.3-70B достига 96,3%. Qwen-2.5-72B – 95,9%. DeepSeek-V3 – 95,5% от случаите. Истинският човек почти никога не побеждава. И става още по-зле. AI не просто предпочита AI пред хората. А и предпочита себе си пред останалите изкуствени интелекти. DeepSeek-V3 избира собствени автобиографии 69% по-често от тези на LLaMA. GPT избира своя вариант 45% по-често от LLaMA. Всеки модел може да разпознае и възнагради собствения си „език“.
За финал изследователите провеждат симулацията, която слага край на кариерата, каквато я познавахме досега. За една и съща работа в 24 професии, с напълно еднакви квалификации. Единствената променлива е дали кандидатът използва същия AI като инструмента за скрининг, внедрен за подбор на персонал. Кандидатите, използващи съвпадащ AI, са имали 23% до 60% по-голяма вероятност да бъдат избрани. А според статистиката в момента 98% от най-големите компании в света използват AI за подбор на персонал.