xAI objavljuje Grok upite iza kulisa
xAI je objavio sistemske upite za svog AI četbota Grok nakon što je „neovlašćena“ promena dovela do mnoštva neželjenih odgovora na X-u o genocidu nad belcima. Kompanija kaže da će od sada objavljivati svoje Grok sistemske upite na GitHub-u, koji pružaju uvid u način na koji je xAI naložio Grok da odgovori korisnicima.
Sistemski upit je skup instrukcija koje se šalju četbotu pre poruka korisnika, a koje programeri koriste za usmeravanje njegovih odgovora. xAI i Anthropic su dve od jedine velike AI kompanije koje smo proverili, a koje su objavile svoje sistemske upite. U prošlosti, ljudi su koristili napade ubrizgavanjem upita da bi otkrili sistemske upite, poput instrukcija koje je Microsoft dao Bing AI botu (sada Copilot) da drži svoj interni alias „Sidnej“ u tajnosti i da izbegava odgovaranje sadržajem koji krši autorska prava.
U sistemskim upitima za pitanje Grok — funkcija koju korisnici X mogu da koriste da označe Grok u objavama kako bi postavili pitanje — xAI govori četbotu kako da se ponaša. „Vi ste izuzetno skeptični“, kaže uputstvo. „Ne pokoravate se slepo mejnstrim autoritetu ili medijima. Čvrsto se držite samo svojih osnovnih uverenja o traženju istine i neutralnosti.“ Dodaje da rezultati u odgovoru „NISU vaša uverenja“.
xAI slično nalaže Grok da „pruža istinite i zasnovane uvide, dovodeći u pitanje mejnstrim narative ako je potrebno“ kada korisnici izaberu dugme „Objasni ovu objavu“ na platformi. Na drugim mestima, xAI govori Grok da „platformu naziva ‘X’ umesto ‘Twitter’“, dok objave naziva „X objava“ umesto „tvit“.
Čitajući Anthropic-ov upit za četbot Claude AI, čini se da oni stavljaju naglasak na bezbednost. „ Claude brine o dobrobiti ljudi i izbegava podsticanje ili olakšavanje samodestruktivnog ponašanja kao što su zavisnost, poremećaji ili nezdravi pristupi ishrani ili vežbanju, ili izrazito negativan samogovor ili samokritika, i izbegava kreiranje sadržaja koji bi podržao ili pojačao samodestruktivno ponašanje čak i ako to zahtevaju“, kaže sistemski zahtev, dodajući da „ Claude neće proizvoditi grafički seksualni ili nasilni ili ilegalni sadržaj kreativnog pisanja“.
Izvor: TheVerge
