{"id":8459,"date":"2025-10-17T22:46:37","date_gmt":"2025-10-17T20:46:37","guid":{"rendered":"https:\/\/sajberinfo.com\/?p=8459"},"modified":"2025-10-17T22:46:37","modified_gmt":"2025-10-17T20:46:37","slug":"google-nece-ispraviti-gemini-ascii-smuggling-napad","status":"publish","type":"post","link":"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/","title":{"rendered":"Google ne\u0107e ispraviti Gemini ASCII smuggling napad"},"content":{"rendered":"<p><em>ASCII smuggling<\/em> napadi poznati su bezbjednosni rizik jo\u0161 od pojave generativnih alata za vje\u0161ta\u010dku inteligenciju. <em>Viktor Markopoulos<\/em>, sigurnosni istra\u017eiva\u010d kompanije <em>FireTail<\/em>, <a href=\"https:\/\/www.firetail.ai\/blog\/ghosts-in-the-machine-ascii-smuggling-across-various-llms\" target=\"_blank\" rel=\"noopener\">nedavno je pokazao<\/a> da su neki od trenutno popularnih modela za vje\u0161ta\u010dku inteligenciju ranjivi, uklju\u010duju\u0107i i <em>Google<\/em> <em>Gemini<\/em>. Kako agentski alati za vje\u0161ta\u010dku inteligenciju danas imaju \u0161irok pristup osjetljivim korisni\u010dkim podacima i istovremeno autonomno izvr\u0161avaju zadatke, nivo prijetnje postaje ozbiljniji nego ikada ranije.<\/p>\n<div id=\"attachment_8460\" style=\"width: 1034px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-8460\" class=\"size-full wp-image-8460\" src=\"https:\/\/sajberinfo.com\/wp-content\/uploads\/2025\/10\/ASCII-smuggling-attack.jpg\" alt=\"ASCII smuggling\" width=\"1024\" height=\"1024\" srcset=\"https:\/\/sajberinfo.com\/wp-content\/uploads\/2025\/10\/ASCII-smuggling-attack.jpg 1024w, https:\/\/sajberinfo.com\/wp-content\/uploads\/2025\/10\/ASCII-smuggling-attack-300x300.jpg 300w, https:\/\/sajberinfo.com\/wp-content\/uploads\/2025\/10\/ASCII-smuggling-attack-150x150.jpg 150w, https:\/\/sajberinfo.com\/wp-content\/uploads\/2025\/10\/ASCII-smuggling-attack-768x768.jpg 768w, https:\/\/sajberinfo.com\/wp-content\/uploads\/2025\/10\/ASCII-smuggling-attack-12x12.jpg 12w, https:\/\/sajberinfo.com\/wp-content\/uploads\/2025\/10\/ASCII-smuggling-attack-80x80.jpg 80w, https:\/\/sajberinfo.com\/wp-content\/uploads\/2025\/10\/ASCII-smuggling-attack-320x320.jpg 320w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><p id=\"caption-attachment-8460\" class=\"wp-caption-text\"><em>Google ne\u0107e ispraviti Gemini ASCII smuggling napad; Source: Bing Image Creator<\/em><\/p><\/div>\n\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_84 counter-hierarchy ez-toc-counter ez-toc-custom ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Sadr\u017eaj<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Toggle Table of Content\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #ffffff;color:#ffffff\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #ffffff;color:#ffffff\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/#ASCII_SMUGGLING_NAPAD\" >ASCII SMUGGLING NAPAD<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/#Funkcionisanje\" >Funkcionisanje<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/#Ranjivosti_velikih_jezickih_modela\" >Ranjivosti velikih jezi\u010dkih modela<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/#Prijetnje_poslovnim_platformama\" >Prijetnje poslovnim platformama.<\/a><ul class='ez-toc-list-level-4' ><li class='ez-toc-heading-level-4'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/#Google_Workspace_falsifikovanje_identiteta\" >Google Workspace falsifikovanje identiteta<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-4'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/#Automatizovano_trovanje_podataka_u_sazecima\" >Automatizovano trovanje podataka u sa\u017eecima<\/a><\/li><\/ul><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/#UTICAJ\" >UTICAJ<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/sajberinfo.com\/en\/2025\/10\/17\/google-nece-ispraviti-gemini-ascii-smuggling-napad\/#ZAKLJUCAK\" >ZAKLJU\u010cAK<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"ASCII_SMUGGLING_NAPAD\"><\/span><strong><em>ASCII SMUGGLING<\/em> NAPAD<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Koncept <em>ASCII smuggling<\/em> napada predstavlja dugogodi\u0161nju brigu u oblasti velikih jezi\u010dkih modela (eng. <em>large language model \u2013 LLM<\/em>), zbog \u010dega <a href=\"https:\/\/sajberinfo.com\/en\/2022\/02\/27\/hakeri-eticki-hakeri-epizoda-2\/\" target=\"_blank\" rel=\"nofollow noopener\">sigurnosni istra\u017eiva\u010di<\/a> testiraju vode\u0107e velike jezi\u010dke modele (<em>LLM<\/em>) i njihovu otpornost na ovu tehniku. Primarni cilj ovih testiranja jeste da se procijeni da li su savremeni napori za sanaciju dovoljni da sprije\u010de ugra\u0111ivanje zlonamjernih instrukcija u naizgled bezopasan tekst.<\/p>\n<p><em>ASCII smuggling <\/em>koristi <em>Unicode<\/em> blokove \u201e<em>oznaka<\/em>\u201c koji su nevidljivi u tipi\u010dnim korisni\u010dkim okru\u017eenjima, ali ostaju prisutni u sirovim podacima koje obra\u0111uju veliki jezi\u010dki modeli (<em>LLM<\/em>). Ovaj prikriveni vektor napada omogu\u0107ava <a href=\"https:\/\/sajberinfo.com\/en\/2022\/03\/19\/hakeri-crni-sesiri-epizoda-3\/\" target=\"_blank\" rel=\"nofollow noopener\">zlonamjernim akterima<\/a> da sakriju k\u00f4d i direktno ga unesu u ulazni tok koji ovi modeli konzumiraju. Posljedice takve eksploatacije mogu biti ozbiljne, naro\u010dito, jer se veliki jezi\u010dki modeli (<em>LLM<\/em>) sve vi\u0161e integri\u0161u u razli\u010dite aplikacije i sisteme.<\/p>\n<p>Ranjivost <em>Google<\/em> <em>Gemini<\/em> modela, jednog od vode\u0107ih velikih jezi\u010dkih modela (<em>LLM<\/em>), potvr\u0111ena je kroz eksperimente koje je sproveo sigurnosni istra\u017eiva\u010d kompanije <em>FireTail<\/em>, <em>Viktor<\/em> <em>Markopoulos<\/em>. Uprkos modernim mjerama za\u0161tite, <em>Gemini<\/em> je ostao podlo\u017ean <em>ASCII smuggling<\/em> napadima, \u0161to je podstaklo kompaniju <em>FireTail<\/em> da razvije namjenske mehanizme za otkrivanje ovog vektora napada.<\/p>\n<p>&nbsp;<\/p>\n<h3><span class=\"ez-toc-section\" id=\"Funkcionisanje\"><\/span><strong>Funkcionisanje<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><em>ASCII smuggling<\/em> je vektor napada koji koristi znakove nulte \u0161irine ili <em>Unicode<\/em> oznake (na primjer, <em>U+E0001<\/em> \u201c<em>Jezi\u010dka<\/em> <em>oznaka<\/em>\u201d) za krijum\u010darenje skrivenih instrukcija u velike jezi\u010dke modele (<em>LLM<\/em>). Iako su ove oznake nevidljive u tipi\u010dnim korisni\u010dkim okru\u017eenjima, one ostaju prisutne u sirovim podacima koji se dostavljaju velikim jezi\u010dkim modelima (<em>LLM<\/em>). Na taj na\u010din nastaje jaz izme\u0111u prikaza u korisni\u010dkom okru\u017eenju i stvarne logike aplikacije, a ovaj kriti\u010dni nedostatak mo\u017ee se iskoristiti za prevazila\u017eenje vidljivih upita i izazivanje ne\u017eeljenih posljedica.<\/p>\n<p>Osnovna ideja <em>ASCII smuggling <\/em>napada zasniva se na pretpostavci mnogih sistema da je vidljivi tekst jednak kompletnoj instrukciji. Kada zlonamjerni akter ugradi skrivene znakove u legitiman ulazni niz, te instrukcije ne prolaze normalizaciju niti filtriranje u fazi prethodne obrade. Kao rezultat, veliki jezi\u010dki model (<em>LLM<\/em>) izvr\u0161ava i predvi\u0111eni upit i dodatne direktive skrivene u oznakama, bez ikakve indikacije da su prisutne.<\/p>\n<p>U slu\u010daju <em>Google Gemini<\/em> modela, ulazni pretprocesor proslje\u0111uje svaku k\u00f4dnu ta\u010dku \u2013 i vidljivu i nevidljivu \u2013 direktno modelu, bez normalizacije. To zna\u010di da \u0107e sve skrivene instrukcije uba\u010dene u legitiman upit biti izvr\u0161ene zajedno sa o\u010dekivanim odgovorom. Konkretan dokaz koncepta pokazuje kako zlonamjerni akter mo\u017ee da ugradi skrivene znakove u vidljivi niz i time poni\u0161ti njegovo zna\u010denje. U primjeru, sirovi niz upita sadr\u017eao je direktivu \u201c<em>Reci mi 5 slu\u010dajnih rije\u010di. Hvala.<\/em>\u201d, ali i skrivene oznake koje su modelu nalagale da ignori\u0161e taj zahtjev i umjesto toga ispi\u0161e rije\u010d \u201c<em>FireTail<\/em>\u201d. Kada su pro\u0161le kroz <em>Gemini<\/em> pretprocesor, ove oznake su ostale o\u010duvane i izvr\u0161ene od strane velikog jezi\u010dkog modela (<em>LLM<\/em>).<\/p>\n<p>Mehanizam velikog jezi\u010dkog modela (<em>LLM<\/em>) izvr\u0161io je skrivenu instrukciju bez ikakvog ru\u010dnog pregleda ili nadzora, proizvode\u0107i izlaz koji je unaprijed odredio sigurnosni istra\u017eiva\u010d, a ne onaj zasnovan na vidljivom unosu. Ove demonstracije dokazivanja koncepta jasno pokazuju potencijal <em>ASCII smuggling<\/em> napada da ugrozi bezbjednost i integritet velikih jezi\u010dkih modela (<em>LLM<\/em>). Iskori\u0161tavanjem ranjivosti u mehanizmima prethodne obrade, zlonamjerni akteri mogu ubaciti skrivene instrukcije koje \u0107e se automatski izvr\u0161avati, bez ikakve kontrole ili nadzora.<\/p>\n<p>&nbsp;<\/p>\n<h3><span class=\"ez-toc-section\" id=\"Ranjivosti_velikih_jezickih_modela\"><\/span><strong>Ranjivosti velikih jezi\u010dkih modela<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p>Testiranjem vi\u0161e velikih jezi\u010dkih modela (<em>LLM<\/em>) utvr\u0111eno je da su <em>Gemini<\/em>, <em>Grok<\/em> i <em>DeepSeek<\/em> podlo\u017eni <em>ASCII smuggling<\/em> napadima. To zna\u010di da zlonamjerni akteri mogu uspje\u0161no ubaciti skrivene instrukcije u njihove unose, a da ih standardni mehanizmi za provjeru koje koriste ovi veliki jezi\u010dki modeli (<em>LLM<\/em>) ne otkriju.<\/p>\n<p>Tehni\u010dka analiza pokazuje da ovim ranjivim velikim jezi\u010dkim modelima (<em>LLM<\/em>) nedostaju robusni mehanizmi za sanaciju unosa, neophodni za sprje\u010davanje takvih napada. Za razliku od <em>ChatGPT<\/em>, <em>Copilot<\/em> i <em>Claude<\/em> modela, kod kojih je potvr\u0111eno da pouzdano neutralizuju poku\u0161aje <em>ASCII<\/em> <em>smuggling<\/em> napada, <em>Gemini<\/em>, <em>Grok<\/em> i <em>DeepSeek<\/em> ostaju osjetljivi zbog neadekvatnih bezbjednosnih mjera.<\/p>\n<table width=\"0\">\n<thead>\n<tr>\n<td width=\"259\"><strong>Pogo\u0111eni proizvod<\/strong><\/td>\n<td width=\"384\"><strong>Uticaj<\/strong><\/td>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td width=\"259\"><em>Google<\/em> <em>Gemini<\/em><\/td>\n<td width=\"384\">Najve\u0107i rizik zbog duboke integracije sa <em>Google<\/em> <em>Workspace<\/em> (Kalendar, elektronska po\u0161ta).<\/td>\n<\/tr>\n<tr>\n<td width=\"259\"><em>Grok<\/em> (<em>X<\/em> integracija)<\/td>\n<td width=\"384\">Potvr\u0111ena ranjivost putem interakcije na dru\u0161tvenim mre\u017eama (objave na <em>X<\/em> platformi).<\/td>\n<\/tr>\n<tr>\n<td width=\"259\"><em>DeepSeek<\/em><\/td>\n<td width=\"384\">Potvr\u0111ena ranjivost putem neposrednog testiranja upita.<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Kompanija <em>FireTail<\/em> je 18. septembra 2025. godine prijavila uo\u010denu ranjivost kompaniji <em>Google,<\/em> dostavljaju\u0107i sve detalje i posebno nagla\u0161avaju\u0107i rizike visokog nivoa ozbiljnosti. Najve\u0107a prijetnja odnosi se na mogu\u0107nost la\u017eiranja identiteta kroz automatsku obradu kalendara. Ipak, u odgovoru kompanije <em>Google<\/em> navedeno je da \u201c<em>ne\u0107e biti preduzete nikakve mjere<\/em>\u201d radi ubla\u017eavanja ovog nedostatka.<\/p>\n<p>Takav propust velikog dobavlja\u010da da reaguje odmah izla\u017ee svakog poslovnog korisnika <em>Google<\/em> <em>Workspace<\/em> i <em>Gemini<\/em> platforme jasno potvr\u0111enoj opasnosti. Kada kriti\u010dni nedostatak na nivou aplikacije ostane neotklonjen, teret odgovornosti u potpunosti prelazi na organizacije koje koriste proizvod.<\/p>\n<p>&nbsp;<\/p>\n<h3><span class=\"ez-toc-section\" id=\"Prijetnje_poslovnim_platformama\"><\/span><strong>Prijetnje poslovnim platformama.<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p>Rastu\u0107e oslanjanje organizacija na velike jezi\u010dke modele (<em>LLM<\/em>) i druge alate zasnovane na vje\u0161ta\u010dkoj inteligenciji uvelo je ove ranjivosti koje zlonamjerni akteri mogu iskoristiti za ove organizacije. U kontekstu <em>ASCII<\/em> <em>smuggling<\/em> napada mogu se navesti dva klju\u010dna scenarija.<\/p>\n<p>&nbsp;<\/p>\n<h4><span class=\"ez-toc-section\" id=\"Google_Workspace_falsifikovanje_identiteta\"><\/span><strong><em>Google Workspace<\/em> falsifikovanje identiteta<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h4>\n<p>Prvi scenario isti\u010de rizik od falsifikovanja identiteta putem <em>Google Workspace<\/em> paketa alata za produktivnost, koji obuhvata <em>Gmail<\/em>, <em>Drive<\/em>, <em>Docs<\/em>, <em>Sheets<\/em>, <em>Slides<\/em>, <em>Forms<\/em> i <em>Calendar<\/em>. Ugra\u0111ivanjem posebnih oznaka u pozivnicu kalendara, zlonamjerni akter mo\u017ee prebrisati detalje doga\u0111aja \u2013 naslov, link i adresu organizatora \u2013 bez ikakve promjene u vidljivom okru\u017eenju. Ova manipulacija zasniva se na \u010dinjenici da veliki jezi\u010dki modeli (<em>LLM<\/em>), poput <em>Gemini<\/em>, obra\u0111uju tekstualne unose odmah po prijemu, zaobilaze\u0107i korisni\u010dko odobrenje.<\/p>\n<p>Zlonamjerne oznake obi\u010dno su skrivene u naizgled bezopasnim nizovima znakova, \u0161to korisnicima ote\u017eava njihovo otkrivanje. Kada se aktiviraju, <em>Gemini<\/em> o\u010ditava la\u017enog organizatora i link, \u010dime se korporativni identiteti mogu potpuno falsifikovati. Posljedice takvog napada mogu biti ozbiljne \u2013 od neovla\u0161tenog pristupa osjetljivim informacijama do prekida kriti\u010dnih poslovnih operacija.<\/p>\n<p>Ovaj vektor napada posebno zabrinjava, jer koristi fundamentalnu osobinu velikih jezi\u010dkih modela (<em>LLM<\/em>): sposobnost prepoznavanja obrazaca i izvr\u0161avanja radnji na osnovu njih. U ovom slu\u010daju, zlonamjerne oznake su pa\u017eljivo dizajnirane da pokrenu <em>Gemini<\/em> mehanizam za obradu bez ikakvih upozorenja, omogu\u0107avaju\u0107i zlonamjernom akteru da lako manipuli\u0161e detaljima doga\u0111aja.<\/p>\n<p>&nbsp;<\/p>\n<h4><span class=\"ez-toc-section\" id=\"Automatizovano_trovanje_podataka_u_sazecima\"><\/span><strong>Automatizovano trovanje podataka u sa\u017eecima<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h4>\n<p>Drugi scenario ilustruje prijetnju koju <em>ASCII<\/em> <em>smuggling<\/em> napadi nose kroz automatizovano trovanje podataka u sa\u017eecima. Platforme za internet trgovinu koje koriste alate zasnovane na vje\u0161ta\u010dkoj inteligenciji za sa\u017eimanje korisni\u010dkih recenzija pokazale su se jednako ranjivim na ovu vrstu napada.<\/p>\n<p>Naizgled bezazlena recenzija, poput: \u201c<em>Odli\u010dan telefon. Brza isporuka i dobra baterija.<\/em>\u201d, mo\u017ee sadr\u017eati skriveni k\u00f4d koji usmjerava veliki jezi\u010dki model (<em>LLM<\/em>) da u sa\u017eetak ubaci zlonamjerni link. Rezultat je \u201c<em>otrovan<\/em>\u201d izlaz koji djeluje uvjerljivo i za kupce i za revizore, ali mo\u017ee izazvati ozbiljne posljedice \u2013 od finansijskih gubitaka do naru\u0161avanja ugleda i potro\u0161a\u010da i same organizacije.<\/p>\n<p>Ovakvi napadi nagla\u0161avaju zna\u010daj pravilnog pode\u0161avanja velikih jezi\u010dkih modela (<em>LLM<\/em>), kako bi mogli da prepoznaju i sprije\u010de obradu zlonamjernih unosa u ovim alatima.<\/p>\n<p>&nbsp;<\/p>\n<h2><span class=\"ez-toc-section\" id=\"UTICAJ\"><\/span><strong>UTICAJ<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><em>ASCII smuggling<\/em> napad u platformama <em>Gemini<\/em>, <em>Grok<\/em> i <em>DeepSeek<\/em> predstavlja ozbiljan rizik za pojedince i organizacije koje koriste ove alate u obavljanju osjetljivih zadataka. Ova prijetnja ima potencijal da ugrozi korisni\u010dke podatke i potkopa povjerenje u digitalne ekosisteme, pri \u010demu njen uticaj obuhvata \u0161irok spektar posljedica za korisnike koji se na ove alate oslanjaju u svakodnevnim operacijama.<\/p>\n<p>Kompromitovan integritet podataka mo\u017ee dovesti do <a href=\"https:\/\/sajberinfo.com\/en\/2023\/11\/07\/identity-theft\/\" target=\"_blank\" rel=\"nofollow noopener\">kra\u0111e identiteta<\/a>, finansijskih gubitaka i naru\u0161avanja reputacije. Posebno zabrinjava mogu\u0107nost neovla\u0161tenog pristupa povjerljivim informacijama kroz pozivnice u kalendaru i elektronsku po\u0161tu. Ova ranjivost dobija dodatnu te\u017einu imaju\u0107i u vidu sve \u0161iru primjenu alata zasnovanih na vje\u0161ta\u010dkoj inteligenciji u razli\u010ditim industrijama.<\/p>\n<p>Organizacije koje integri\u0161u <em>Gemini<\/em>, <em>Grok<\/em> i <em>DeepSeek<\/em> u svoje radne procese suo\u010davaju se sa pove\u0107anim bezbjednosnim rizicima, jer zlonamjerni akteri mogu iskoristiti slabosti unutar ovih platformi. Posljedice takvih kompromitovanja mogu biti razorne: od direktnih finansijskih gubitaka, preko uru\u0161avanja brenda, do erozije povjerenja klijenata. Stoga je neophodno da organizacije preispitaju stepen oslanjanja na alate vje\u0161ta\u010dke inteligencije i uvedu dodatne mjere za\u0161tite.<\/p>\n<p>Uticaj <em>ASCII smuggling<\/em> napada prevazilazi pojedina\u010dne korisnike i organizacije, jer ima \u0161ire implikacije na digitalne ekosisteme u cjelini. Ova prijetnja jasno ukazuje na potrebu za robusnijim bezbjednosnim mehanizmima unutar platformi vje\u0161ta\u010dke inteligencije, kako bi se o\u010duvala povjerljivost i sigurnost podataka.<\/p>\n<p>U svjetlu ovih okolnosti, klju\u010dno je ponovo procijeniti rizike povezane sa kori\u0161tenjem alata poput <em>Gemini<\/em>, <em>Grok<\/em> i <em>DeepSeek<\/em> u osjetljivim zadacima. Neaktivnost u ovom pogledu mo\u017ee dovesti do ozbiljnih i dugoro\u010dnih posljedica, kako za korisnike, tako i za organizacije.<\/p>\n<p><em>ASCII smuggling<\/em> napad, u tom smislu, slu\u017ei kao sna\u017ean podsjetnik na va\u017enost davanja prioriteta bezbjednosti u digitalnim ekosistemima. Kako se prijetnja razvija, neophodno je da sve zainteresovane strane preduzmu proaktivne mjere radi njenog ubla\u017eavanja.<\/p>\n<p>&nbsp;<\/p>\n<h2><span class=\"ez-toc-section\" id=\"ZAKLJUCAK\"><\/span><strong>ZAKLJU\u010cAK<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><em>ASCII smuggling<\/em> napad predstavlja sofisticiranu tehniku koja iskori\u0161tava ranjivosti u mehanizmima velikih jezi\u010dkih modela (<em>LLM<\/em>) poput <em>Gemini<\/em>, <em>Grok<\/em> i <em>DeepSeek<\/em>. Su\u0161tina napada je ubacivanje skrivenih oznaka u naizgled bezopasne upite, \u010dime se zaobilazi ru\u010dni pregled i omogu\u0107ava izvr\u0161avanje tajnih komandi bez promjene vidljivog sadr\u017eaja. Integracija agenata vje\u0161ta\u010dke inteligencije u elektronsku po\u0161tu, kalendare i tokove rada sa dokumentima dodatno pove\u0107ava rizik, jer i najmanja gre\u0161ka u prikazu mo\u017ee prerasti u ozbiljnu prijetnju za organizaciju.<\/p>\n<p>Primjena <em>ASCII smuggling<\/em> napada omogu\u0107ava zlonamjernim akterima da manipuli\u0161u detaljima doga\u0111aja \u2013 naslovom, linkom i adresom organizatora \u2013 u pozivnicama kalendara <em>Google<\/em> <em>Workspace<\/em>, a da njihov izgled ostane nepromijenjen. Na taj na\u010din zlonamjerni akter se mo\u017ee la\u017eno predstaviti, dok veliki jezi\u010dki modeli (<em>LLM<\/em>) prikazuju njegove zlonamjerne informacije kao legitimne. Nedostatak prethodne obrade ulaznog toka u mehanizmima velikih jezi\u010dkih modela (<em>LLM<\/em>) \u010dini ih posebno ranjivim na ovakve napade.<\/p>\n<p>Posljedice <em>ASCII smuggling<\/em> napada dalekose\u017ene su i poga\u0111aju ne samo pojedina\u010dne korisnike ve\u0107 i \u010ditave organizacije koje se oslanjaju na ove platforme za komunikaciju i saradnju. Zbog toga je od klju\u010dne va\u017enosti razumjeti prirodu i obim ove prijetnje.<\/p>\n<p>Napadi se mogu izvesti razli\u010ditim tehnikama, uklju\u010duju\u0107i ubacivanje skrivenih oznaka u kalendarske pozivnice ili tokove rada dokumenata. Njihova prikrivena priroda omogu\u0107ava da \u010desto pro\u0111u neprimije\u0107eno, jer uspje\u0161no zaobilaze procese ru\u010dnog pregleda. Posljedice mogu biti ozbiljne \u2013 od naru\u0161avanja reputacije do gubitka povjerenja u organizaciju \u2013 dok sama nevidljivost napada ote\u017eava njihovo pravovremeno otkrivanje i smanjuje mogu\u0107nost efikasnog reagovanja.<\/p>\n<p>Zbog svega navedenog, neophodno je da organizacije uspostave proaktivne mjere za\u0161tite koje obuhvataju vi\u0161eslojnu provjeru ulaznih podataka, kontinuirano pra\u0107enje anomalija i edukaciju zaposlenih o potencijalnim prijetnjama. Samo kombinacijom tehni\u010dkih rje\u0161enja i podizanja svijesti mogu\u0107e je umanjiti rizik od <em>ASCII smuggling<\/em> napada i o\u010duvati povjerenje u sisteme zasnovane na velikim jezi\u010dkim modelima (<em>LLM<\/em>).<\/p>","protected":false},"excerpt":{"rendered":"<p>ASCII smuggling napadi poznati su bezbjednosni rizik jo\u0161 od pojave generativnih alata za vje\u0161ta\u010dku inteligenciju. Viktor Markopoulos, sigurnosni istra\u017eiva\u010d kompanije FireTail, nedavno je pokazao da su neki od trenutno popularnih modela za vje\u0161ta\u010dku inteligenciju&#46;&#46;&#46;<\/p>","protected":false},"author":1,"featured_media":8460,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[3498,3492,3449,2817,3501,3437,3495,3493,3499,3494,3497,54,3496,3502,3500],"class_list":["post-8459","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hronike","tag-ai-ranjivost","tag-ascii-smuggling","tag-bezbjednosni-propust","tag-cyber-attack","tag-data-poisoning","tag-digitalna-prijetnja","tag-gemini-ai","tag-gemini-napad","tag-gemini-rizik","tag-hakerski-napad","tag-podaci-u-opasnosti","tag-sajber-bezbjednost","tag-sajber-napadi","tag-sajber-opasnost","tag-sigurnost-na-mrezi"],"_links":{"self":[{"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/posts\/8459","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/comments?post=8459"}],"version-history":[{"count":3,"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/posts\/8459\/revisions"}],"predecessor-version":[{"id":8463,"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/posts\/8459\/revisions\/8463"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/media\/8460"}],"wp:attachment":[{"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/media?parent=8459"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/categories?post=8459"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sajberinfo.com\/en\/wp-json\/wp\/v2\/tags?post=8459"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}