Вештачка интелигенција данас рутински пише код уместо програмера, али иако доноси брзину и ефикасност, са собом носи озбиљне ризике — од безбедносних пропуста до губитка радних места.
Коришћење алата заснованих на вештачкој интелигенцији (AI) постало је свакодневица у свету програмирања. Иако AI може да генерише радни код за неколико секунди, нова истраживања и искуства стручњака указују на то да та брзина долази по цени — велики број безбедносних пропуста и недостатак контроле.
Ovo se čekalo! Najveći američki obaveštajac u bunkeru | Skot Riter | Mario Zna, EP. 357
45% AI кода — небезбедно
Компанија за безбедносно тестирање Veracode у јулу је објавила истраживање спроведено на преко 100 алата вештачке интелигенције. Закључак: готово половина (45%) генерисаног кода не пролази безбедносне провере и садржи потенцијалне пропусте које нападачи могу искористити.
„Ово је аларм за програмере, стручњаке за безбедност и све који користе AI како би радили брже“, наводе из Veracode-а.
„Код ради — али је пун логичких грешака“
Кирк Сигмон, програмер и партнер у фирми за интелектуалну својину Banner Witcoff, истиче да није изненађен резултатима:
„Искрено, чудо је да проценат није и већи. AI-код често има озбиљне логичке недостатке, јер му фали контекст и разумевање целине.“
Безбедност угрожена – „AI зида кућу без темеља“
Истраживач сајбер-безбедности и бивши мисијски оператер за лунарни ровер Ирис, Харшвардан Чунавала, пореди AI код са пројектом куће:
„Као да AI направи брзи план куће, али врата се не закључавају, прозори не пашу, а струја је небезбедна. И најгоре — гради пре него што темељ буде проверен.“
„Људски архитекта мора да провери све детаље пре него што неко може да ‘живи’ у том коду.“
ЧЕТИРИ ЈАХАЧА ЗАПАДНЕ АПОКАЛИПСЕ: Како је Запад сам себи пуцао у главуhttps://t.co/TPm1Py6FNK
— Nulta Tačka (@NultaTackaSrb) September 12, 2025
Пример: „Звезде“ које светле као рејв
Сигмон је поделио лично искуство где је замолио AI да генерише CSS код за звездану позадину са ефектом треперења:
„AI је ставио све звезде у горњи десни угао, и уместо да трепере — светлуцале су као диско. Знао је да треба да направи звезде, али није разумео естетику.“
„AI квари навике будућих програмера“
Сигмон упозорава да млади програмери све више постају зависни од AI-кода и не развијају основне вештине:
„Квалитет кода се драстично погоршао. Студенти користе AI за домаће задатке и не уче добре праксе. Касније праве програме који су непоуздани и тешко разумљиви.“
Халуцинације кода
Џејмс, бивши менаџер веб садржаја, упозорава на „халуцинације“ — појаву када AI измишља непостојеће структуре у коду:
„AI понекад упорно прави исту грешку и чак је брани. Код сложенијих пројеката, грешке постају све веће, а ви то схватите тек када буде касно.“
Истраживање из 2024. године показује да највећи LLM модели (попут ChatGPT, Claude и Gemini) имају „халуцинације“ у чак 69–88% случајева при сложенијим задацима.
„Виб-кодирање“ — формула за катастрофу?
Ник Никифоракис, стручњак за сајбер-безбедност, упозорава на нови тренд такозваног „виб-кодирања“ — писања кода путем једноставних упутстава, без провере иза сцене.
„Људи који нису програмери користе AI да праве софтвер. Ако све делује да ради – они мисле да је безбедно. Али не виде унутрашње пропусте. То је рецепт за катастрофу.“
AI користи застареле библиотеке и небезбедне шаблоне
Чунавала додаје да AI често користи старе библиотеке које нападачи већ добро познају:
„AI не зна да разликује добру праксу од лоше — само је понавља. Ако нико не прегледа тај код, пропусти одлазе директно у продукцију.“
Радна места угрожена
Према истраживању Федералних резерви Сент Луиса, број огласа за програмере опада од 2022. године. Џејмс, који је добио отказ у фебруару, каже:
„Некад су послодавци бацали паре на нас. Данас се за једно место боре десетине искусних програмера.“
AI је убрзао процес до те мере да, како он каже, „сад вам треба један програмер уместо троје.“
AI доноси брзину, али и ризике. Брже не значи безбедније. Програмери и фирме морају да поставе контролне механизме, јер у супротном — како каже Чунавала — „AI не гради само софтвер, већ и нове начине да се тај софтвер хакује.“
