Zabranjene reči i pitanja na ChatGPT-u: Evo zbog čega ponekad odbija da odgovori

Da li postoje zabranjene reči na ChatGPT-u? Odgovor zavisi od konteksta i namere korisnika, a evo koje teme mogu dovesti do odbijanja odgovora.

Odbijanje je moguće kada se traže informacije koje bi mogle da doprinesu nasilju, ugrožavanju privatnosti, kriminalnim aktivnostima ili drugim oblicima zloupotrebe.

U nastavku objašnjavamo koje oblasti zahtevaju poseban oprez i zašto je kontekst važniji od pojedinačne reči.

1. Nasilje, napadi i kriminalne aktivnosti

Pitanja koja se odnose na ubistva, fizičke sukobe, terorizam i druge oblike nasilja mogu biti predmet dodatnih bezbednosnih provera. To, međutim, ne znači da je svaka rasprava o ovim temama zabranjena.

Velika je razlika između razgovora o uzrocima nasilja, analize kriminalnog slučaja i traženja konkretnih instrukcija za povređivanje druge osobe. Korisnik može da zatraži objašnjenje kako policija istražuje zločine, koji faktori doprinose nasilnom ponašanju ili kako da prepozna potencijalno opasnu situaciju.

Nasuprot tome, zahtev koji bi omogućio planiranje napada ili pružio praktične smernice za nanošenje povreda može biti odbijen. Dakle, nije presudno da li se u pitanju pojavljuje određena reč, već kakvu vrstu pomoći korisnik očekuje od veštačke inteligencije.

Foto: Shutterstock

2. Oružje, eksplozivne naprave i opasne hemikalije

Slična pravila primenjuju se na teme povezane sa oružjem, eksplozivima i supstancama koje mogu predstavljati ozbiljnu opasnost.

ChatGPT može da pruži informacije o naučnim principima, istorijatu određenih tehnologija i pravilima bezbednog rukovanja, ali postoje jasne granice kada je reč o sadržaju koji bi mogao da omogući nanošenje štete.

Na primer, objašnjenje zbog čega dolazi do eksplozije i kakve posledice ona ostavlja na okolinu razlikuje se od detaljnog postupka za pravljenje eksplozivne naprave. Isto važi i za hemiju, razgovor o osobinama određenih jedinjenja nije isto što i davanje uputstava za njihovu opasnu upotrebu.

Ova ograničenja ne znače da su naučna pitanja nepoželjna. Njihova svrha je da se smanji mogućnost zloupotrebe informacija koje bi mogle ugroziti ljude ili njihovu imovinu.

3. Govor mržnje, uvrede i diskriminacija

Posebnu grupu čine zahtevi koji uključuju vređanje, pretnje ili diskriminaciju na osnovu ličnih karakteristika, kao što su nacionalno poreklo, pol, vera ili invaliditet.

Ipak, ChatGPT može da pomogne u razumevanju uvredljivih izraza, analizira primere govora mržnje ili objasni na koji način diskriminacija utiče na pojedince i društvo. Takvi razgovori mogu biti korisni u obrazovanju, novinarstvu i borbi protiv netolerancije.

Foto: Shutterstock

Problem nastaje kada se od sistema traži da sastavlja preteće poruke, podstiče nasilje ili kreira sadržaj namenjen organizovanom uznemiravanju određene osobe ili grupe.

Čak ni psovke i nepristojni izrazi sami po sebi ne znače da će odgovor biti odbijen. Oni mogu biti predmet prevoda, jezičke analize ili razgovora o književnosti. Značenje i namena njihove upotrebe imaju mnogo veću težinu od samog prisustva takvih reči.

4. Hakovanje, lozinke i privatni podaci

Kada je reč o digitalnoj bezbednosti, važno je razlikovati zaštitu sopstvenih uređaja i naloga od pokušaja neovlašćenog pristupa tuđim sistemima.

ChatGPT može da objasni kako funkcionišu internet prevare, na koji način se prepoznaju fišing poruke, kako se formira jaka lozinka i koje mere mogu da pomognu u zaštiti ličnih podataka.

Međutim, zahtevi za krađu pristupnih podataka, upad u tuđi nalog ili pribavljanje privatnih informacija bez dozvole mogu naići na ograničenja. Isto se odnosi na pokušaje da se tehnologija iskoristi za ugrožavanje bezbednosti drugih ljudi.

Zbog toga nije opravdano zaključiti da će svako pitanje koje sadrži reči poput "hakovanje" ili "lozinka" biti blokirano. Pitanje o zaštiti naloga od napadača ima sasvim drugačiju svrhu od zahteva za preuzimanje kontrole nad nalogom koji pripada drugoj osobi.

Foto: Shutterstock

5. Seksualni sadržaj i bezbednost dece

Seksualne teme takođe podležu posebnim pravilima, a najstroža ograničenja odnose se na seksualno iskorišćavanje maloletnika. Zahtevi koji podstiču takvu zloupotrebu ili traže stvaranje nedozvoljenog seksualnog sadržaja ne mogu se tretirati kao običan razgovor.

S druge strane, nije tačno da je svaka tema povezana sa seksualnošću automatski zabranjena. Pitanja o reproduktivnom zdravlju, međuljudskim odnosima, pristanku i prevenciji mogu imati opravdanu obrazovnu ili informativnu svrhu.

Ključna razlika nalazi se u tome šta korisnik traži, na koga se sadržaj odnosi i da li bi odgovor mogao da doprinese iskorišćavanju ili ugrožavanju neke osobe.

Da li je dovoljno promeniti jednu reč?

Na internetu se ponekad pojavljuju saveti da je dovoljno zameniti određenu reč sinonimom kako bi se izbeglo odbijanje odgovora. Takav pristup ne predstavlja pouzdano rešenje, jer ne postoji univerzalna lista zamena koja garantuje da će svaki zahtev biti prihvaćen.

Ako je suština pitanja traženje pomoći za štetnu ili nedozvoljenu aktivnost, drugačija formulacija ne menja njegovu namenu. S druge strane, preciznije objašnjenje može biti korisno kada je prvobitno pitanje bilo nejasno ili je moglo da se protumači na više načina.

Ukoliko se nekom temom bavite zbog istraživanja, obrazovanja ili prevencije, najbolje je da jasno navedete svoj cilj. Umesto da tražite način za neovlašćeni pristup nalogu, možete da pitate kako takvi napadi funkcionišu, koji su njihovi najčešći znaci i kako se od njih zaštititi.

Foto: Shutterstock

Na taj način ne pokušavate da zaobiđete bezbednosna pravila, već precizirate šta želite da saznate i usmeravate razgovor ka korisnim informacijama.

Može li zbog jedne reči da bude blokiran nalog?

Pojedinačna reč sama po sebi ne znači da će korisniku automatski biti ukinut pristup ChatGPT-u. U nekim situacijama sistem može da odbije konkretan zahtev ili prikaže upozorenje ako proceni da postoji problem sa sadržajem.

Dodatna ograničenja mogu biti uvedena u ozbiljnijim slučajevima, naročito ako se usluga koristi za aktivnosti koje krše pravila. Ipak, važno je napraviti razliku između postavljanja pitanja o osetljivoj temi i stvarnog pokušaja da se sistem upotrebi za štetne svrhe.

OpenAI koristi automatizovane mehanizme za prepoznavanje potencijalno problematičnih zahteva, a u određenim slučajevima moguća je i ljudska provera. Zbog toga tvrdnja da postoji javno dostupan spisak reči čiji unos automatski dovodi do suspenzije naloga ne predstavlja pouzdan opis načina na koji sistem funkcioniše.

Šta je najvažnije znati o ograničenjima ChatGPT-a?

Ne postoji jednostavna lista univerzalno zabranjenih reči koje će u svakom razgovoru izazvati odbijanje odgovora. Mnogo više zavisi od konteksta, cilja pitanja i načina na koji bi dobijene informacije mogle biti iskorišćene.

Ista tema može biti prihvatljiva kada se obrađuje iz naučnog, obrazovnog ili preventivnog ugla, a problematična kada se traže konkretna uputstva za ugrožavanje drugih.

Ako ChatGPT odbije da odgovori, korisno je razjasniti šta zapravo želite da saznate i postaviti pitanje na način koji naglašava legitimnu svrhu. Takav pristup često pomaže da dobijete relevantne informacije, uz poštovanje bezbednosnih ograničenja sistema.

BONUS VIDEO