Pse AI-ja "shpik" përgjigje dhe si e ndalojmë në shërbimin ndaj klientit

Klienti pyet në Messenger: "A keni transport falas për Shkodër?" Asistenti përgjigjet plot siguri: "Po, transporti është falas për gjithë Shqipërinë!" Problemi është se biznesi juaj nuk ka ofruar kurrë transport falas. Ky është një shembull klasik i asaj që në inteligjencën artificiale quhet "halucinacion", dhe është arsyeja kryesore pse shumë biznese ngurrojnë t'ia besojnë klientët një AI-je. Në këtë artikull shpjegojmë pse ndodh dhe si ndalohet.

Çfarë është "halucinacioni" i AI-së

Në fushën e AI-së, halucinacion quhet rasti kur një model prodhon informacion që duket i besueshëm, por është i pasaktë ose krejt i shpikur. Nuk bëhet fjalë për një gabim shtypi apo për keqkuptim të pyetjes. Modeli shkruan me të njëjtin ton të sigurt si kur e ka të saktë, dhe pikërisht kjo e bën të rrezikshëm.

Në një bisedë të përgjithshme, një halucinacion mund të jetë thjesht qesharak. Në shërbimin ndaj klientit kushton: një çmim i gabuar, një afat dorëzimi që nuk mbahet, një politikë kthimi që nuk ekziston. Klienti nuk e di që përgjigjen e ka shkruar një makinë. Për të, ka folur biznesi juaj.

Pse ndodh

Për ta kuptuar, duhet parë si funksionon një model i madh gjuhësor. Thjesht thënë, modeli nuk është një bazë të dhënash që "gjen" përgjigjen. Është një sistem që, fjalë pas fjale, parashikon vazhdimin më të mundshëm të tekstit, bazuar në atë që ka mësuar nga sasi të mëdha shkrimesh. Kjo është forca e inteligjencës artificiale gjeneruese, por edhe dobësia e saj. Më shumë për këtë mekanizëm gjeni te shpjegimi si funksionojnë modelet e mëdha gjuhësore.

Nga kjo rrjedhin disa shkaqe konkrete:

• Modeli nuk e njeh biznesin tuaj. Ai di si flasin dyqanet në përgjithësi. Nëse shumë dyqane online ofrojnë transport falas mbi një shumë të caktuar, modeli mund ta "plotësojë" këtë edhe për ju.
• Modeli është mësuar të jetë i dobishëm. Një përgjigje si "nuk e di" mund t'i duket më pak e dobishme se një përgjigje e plotë, ndaj priret të japë diçka.
• Informacioni vjetërohet. Edhe kur modeli ka parë diçka për biznesin tuaj, çmimet dhe ofertat ndryshojnë.
• Pyetjet janë të paqarta. "Sa kushton ai i bardhi?" pa kontekst mund ta shtyjë modelin të zgjedhë rastësisht një produkt.

Halucinacionet nuk janë një defekt që zhduket me versionin e ardhshëm. Janë pasojë e mënyrës si funksionojnë këto modele. Prandaj zgjidhja nuk është të presim një model që nuk gabon kurrë, por ta ndërtojmë sistemin rreth tij në mënyrë që gabimet të mos arrijnë te klienti.

Si ndalohet: pesë masa që funksionojnë

1. Përgjigje vetëm nga burimet e biznesit

Masa e parë është të mos e lejoni modelin të përgjigjet "nga kujtesa" për faktet e biznesit. Çmimet, stoku, transporti, orari dhe politikat duhet të vijnë nga burime të verifikuara: katalogu, faqja juaj dhe informacioni që keni shtuar vetë. Kjo teknikë quhet RAG dhe e kemi shpjeguar te artikulli si i mban mend agjenti AI produktet dhe çmimet.

2. Rregulla të qarta për çfarë nuk hamendësohet kurrë

Disa gjëra asistenti nuk duhet t'i hamendësojë kurrë: çmimin, disponueshmërinë, afatet, zbritjet, garancinë. Këto rregulla nuk mjafton të shkruhen si "lutje" në udhëzimet e modelit, sepse modeli mund t'i anashkalojë. Sistemet serioze i kontrollojnë edhe pasi përgjigjja është shkruar, para se t'i dërgohet klientit.

3. Lejoni "nuk e di"

Një asistent i mirë duhet ta ketë të lejuar, madje ta ketë si detyrë, të thotë "nuk jam i sigurt". Kjo nuk është dobësi. Klientët e respektojnë një përgjigje të sinqertë si kjo:

"Për këtë nuk kam informacion të saktë. Po ia kaloj kolegut që t'jua konfirmojë."

4. Kalimi te njeriu

"Nuk e di" ka vlerë vetëm nëse pas saj vjen dikush që e di. Biseda duhet t'i kalojë ekipit me një përmbledhje, që kolegu të mos e pyesë klientin gjithçka nga e para. Kemi shkruar një udhëzues të plotë se kur duhet ta marrë njeriu bisedën.

5. Testim dhe përmirësim i vazhdueshëm

Asnjë sistem nuk duhet vënë përballë klientëve pa u provuar më parë me pyetje reale, sidomos me ato pyetje ku gabimi kushton më shumë. Dhe pasi është në punë, bisedat duhen parë rregullisht:

• ku hezitoi agjenti dhe pse;
• cilat pyetje iu kaluan ekipit;
• çfarë informacioni mungon në katalog apo në faqe;
• cilat përgjigje mund të ishin më të qarta.

Çdo boshllëk i mbushur sot është një "nuk e di" më pak nesër.

Ku duhet vënë kufiri

Ka një dallim të rëndësishëm. Kujdesi ndaj halucinacioneve ka të bëjë me faktet e biznesit, jo me çdo fjalë që thotë agjenti. Një agjent që i përgjigjet "mirëmëngjes, si jeni?" me një listë rregullash, ose që nuk mund të bëjë as një shaka të vogël, nuk është më i sigurt; është thjesht i ftohtë. Qëllimi është një asistent që flet natyrshëm, por që për çmime, stok dhe politika mbështetet vetëm te të dhënat e verifikuara.

Gjithashtu, asnjë teknologji nuk garanton saktësi absolute. Kush ju premton "zero gabime" po ju shet iluzion. Ajo që mund të kërkoni është një sistem që i pakëson gabimet, që nuk shpik faktet e biznesit dhe që, kur nuk është i sigurt, e thotë hapur.

Si ndihmon AsistentiAI

Në AsistentiAI ndershmëria është rregull themelor: agjenti nuk shpik fakte për biznesin tuaj, as çmime, as stok, as politika. Ai e mëson biznesin nga faqja juaj, nga katalogu dhe nga informacioni që shtoni në panel. Kur nuk është i sigurt, ia thotë klientit sinqerisht dhe ia kalon bisedën ekipit tuaj me një përmbledhje të shkurtër; në panel biseda shënohet "Kërkon ty", që të mos humbasë mes të tjerave.

Kur një koleg i përgjigjet asaj që agjenti nuk e dinte, përgjigjja mund të bëhet njohuri e re për agjentin, por vetëm me miratimin e biznesit. Kështu, me kalimin e kohës, rastet "nuk e di" pakësohen. Mund ta shihni vetë në demon e drejtpërdrejtë: pyeteni për diçka që dyqani nuk e ka dhe vini re si sillet. Mënyrën si i trajtojmë të dhënat e gjeni te politika e privatësisë.

Halucinacionet janë pjesë e natyrës së modeleve gjuhësore, por nuk duhet të jenë pjesë e marrëdhënies me klientët tuaj. Me burime të verifikuara, rregulla të qarta dhe një ekip që e merr bisedën kur duhet, AI-ja bëhet ajo që duhet të jetë: një ndihmës i shpejtë dhe i besueshëm, jo një shitës që premton gjëra që nuk i keni.