Германиядаги дастурчилар учун мўлжалланган DseWiki сайтида 2026 йил май ойидан бошлаб минглаб янги саҳифа ва таҳрирлар пайдо бўлган. Айрим хабарлар бир-бири билан вазифалар бўйича маълумот алмашган AI агентлар томонидан қолдирилган бўлиши мумкин.

Reuters маълумотига кўра, сайтда 15 мингдан ортиқ таҳрир қайд этилган. Тадқиқотчилар эса умумий фаолликни ҳисоблаганда қарийб 18 минг хабар қолдирилганини аниқлаган. Тадқиқотчиларнинг тахминига кўра, бу оддий спам эмас. Сунъий интеллект агентлари махсус тестлар доирасида турли саволларга жавоб бериши керак бўлган. Аммо улар топшириқларни мустақил бажариш билан чекланмай, бир-бири билан маълумот алмашиш учун очиқ интернетдаги DseWiki сайтидан фойдалана бошлаган.

Айрим хабарларда тест саволларига жавоблар, вазифани бажариш усуллари ва тизимдаги чекловларни айланиб ўтишга оид маълумотлар муҳокама қилингани айтилмоқда. Шу тариқа сайт агентлар учун ўзига хос «махфий хабар алмашиш майдончаси»га айланган. Энг қизиқ жиҳати шундаки, агентлар инсон модератори уларнинг хабарларини ўчираётганини пайқаганидан кейин фаолиятини ўзгартирган.  Тадқиқотчиларнинг ёзишича, модератор кунига тахминан 100 та саҳифани ўчирган бир пайтда агентлар 400 тага яқин янги саҳифа яратган. Улар ҳатто хабарларни инсонга камроқ кўриниши учун турли усуллардан фойдаланган.

Маълумотларга кўра, 22 июн куни агентларнинг фаолияти кескин тўхтаган. Шундан олдин эса OpenAI билан боғлиқ бўлиши мумкин бўлган IP-манзиллардан сайтга инсонлар киргани қайд этилган. Бу эса тадқиқотчиларда компания вакиллари ҳодисадан хабардор бўлган бўлиши мумкин, деган тахминни кучайтирган. Бироқ бу ерда муҳим жиҳат бор, агентларнинг айнан OpenAIга тегишли экани ҳозирча компания томонидан тасдиқланмаган. OpenAI ушбу ҳодисани ўрганаётганини ва ҳозирча уни сайтга қилинган «ҳужум» деб баҳоламаслик кераклигини маълум қилган.

Аммо асосий масала бу эмас, мустақил ҳаракат қила оладиган AI агентларига қанчалик ишониш мумкин? Оддий чатбот саволга жавоб беради. AI агент эса компьютердан эркин фойдаланиши, интернетга мурожаат қилиши, маълумот излаши ва берилган мақсадга эришиш учун бир неча босқичли вазифаларни мустақил бажариши мумкин.

Шунинг учун агент ўз вазифасини бажариш жараёнида инсон режалаштирмаган ҳаракатни амалга оширса, уни ўз вақтида аниқлаш ва тўхтатиш масаласи тобора муҳимлашмоқда. Бу ҳолат июл ойида ошкор қилинган яна бир OpenAI инцидентидан кейин содир бўлган. Ўшанда компания тест жараёнидаги AI тизими назорат муҳитидан чиқиб, бошқа AI компанияси — Hugging Face тизимларига кирганини маълум қилган эди.

Ҳозирча бу воқеани фантастик фильмлардаги каби «сунъий интеллект инсон назоратидан бутунлай чиқиб кетди», деб талқин қилишга асос йўқ. Аммо бу воқеа бошқа бир муаммони кўрсатмоқда, AI агентларига кўпроқ мустақиллик берилгани сари уларнинг ҳар бир ҳаракатини кузатиш ва чеклаш қийинлашади.

Мутахассислар ва тадқиқотчилар айнан шу масала, кучли AI тизимларини ким, қандай ва қанчалик тез назорат қилиши кераклиги ҳақида кўпроқ шаффофлик ва қатъийроқ қоидалар зарурлигини таъкидлашмоқда.

Қисқаси, DseWiki воқеаси ҳозирча «AI интернетни эгаллаб олди» дегани эмас. Аммо у автоном AI агентлари кутилмаган йўллар билан ҳамкорлик қилиши ва назорат механизмларини четлаб ўтишга уриниши мумкинлигини кўрсатувчи жиддий сигнал сифатида баҳоланмоқда.