Христо Грозев: Да се манипулират хора ще стане още по-лесно

Какви са рисковете от спонсорираните от Кремъл и други тоталитарни държави дезинформационни кампании, както и от манипулираното съдържание, генерирано и разпространявано от изкуствен интелект?

Христо Грозев: „Моето мнение е, че технологично решение няма и няма да има скоро. Стават все по-неразличими както създадените от изкуствен интелект видеа, така и текстовият материал. За второто имам дори по-голямо притеснение. Мисля, че част от решението е да се създаде имунитет на обществото, който ще се появи от само себе си в близките години. Доверието във видео- и фотоматериалите, което засега е инстинктивно, ще започне да изчезва. И ще получим някакъв имунитет. 

"Ще засегнат по-лесно поддаващите се на дезинформация"

С текста е много по-страшно - програми като ChatGPT, но и такива, които не са ограничени от етичните граници на ChatGPT, т.е. са създадени специално за дезинформация, ще могат да да умножават в милиони пъти усилията на сегашните дезинформатори - т.нар. тролове, които са необходима част от дезинформационната екосистема. Създаването на адаптиран текст, за да участва в определена дискусия, да дезинформира и психологически да атакува част от обществото в режим „1 към 1“, ще бъде абсолютно възможно.

Системите на изкуствено генериран текст работят на принципа на регенериране на стари идеи, те много по-лесно ще засегнат по-слабата и по-лесно поддаващата се на дезинформация част от обществото, за която няма да има никакъв начин да различава това общуване от естествено. Така че тези, които най-лесно се манипулират по време на избори, ще бъдат още по-лесно манипулируеми. 

Фалшивите текстове могат да бъдат разпознавани

И тук единственото решение е да се принудят големите компании, които стоят зад изкуствения интелект, който публично създава възможности за генериране на текст, да внесат някаква система на разпознаваемост на тези фалшиви текстове. Това е възможно, това се прави. Ако аз напиша един кратък разказ чрез система за изкуствен интелект, колкото и красив да е, той може да бъде с над 90% вероятност идентифициран като такъв. Това означава да искаме взаимодействие между големите компании и медиите, които на своите платформи ще могат да различат такъв генериран текст и да го маркират като такъв. Този път предстои пред нас в близките 1-2 години.“

Разследващият журналист от Bellingcat Христо Грозев участва в 18-ата Световна среща на българските медии, организирана от БТА.

Цялата дискусия може да проследите тук: