MI ar cilvēka iesaisti: kā tas darbojas un kad to izmantot
Cilvēka iesaiste mākslīgā intelekta darbības ciklā (HITL) ir dizaina modelis, kas noteiktos AI sistēmas apmācības, lēmumu pieņemšanas vai izpildes procesa posmos ietver cilvēka vērtējumu. Tas ir īpaši noderīgs, ja automatizēta darbība var ietekmēt cilvēkus vai sistēmas, kļūdas ir dārgi novērst vai organizācijai ir nepieciešama skaidra cilvēka atbildība.
Šajā rakstā izskaidrots, kā darbojas HITL, kur tas palīdz un kas komandām jāizplāno pirms tā izmantošanas produkcijas vidē.
Satura rādītājs
- Kā īsti darbojas cilvēka iesaiste AI darbības ciklā?
- Kāpēc HITL ir svarīgs: precizitāte, drošība un uzticēšanās
- Kur tiek izmantots HITL: piemēri no reālās pasaules
- Kā izveidot produkcijas HITL sistēmu?
- HITL pret Human-on-the-Loop un Human-over-the-Loop
- Kādi ir īstie izaicinājumi, mērogā ieviešot HITL?
- Praktisks kontrolsaraksts HITL sistēmu ieviešanai
- Ko pašreizējie pētījumi saka par HITL nākotni?
- Galvenās atziņas
- Ko lielākā daļa komandu pārprot par HITL
- Deskhero cilvēka uzraudzību izvirza AI atbalsta centrā
- Noderīgi avoti
- BUJ
Kā īsti darbojas cilvēka iesaiste AI darbības ciklā?
Darbības cikls ir kontrolpunktu virkne, kurā cilvēks sniedz informāciju, pārbauda rezultātu vai apstiprina darbību. Sistēma var gaidīt šo ievadi vai arī apkopot ievadi vēlākai izvērtēšanai un modeļa uzlabošanai.
Cilvēki parasti iesaistās divos posmos:
HITL apmācības posmā ietver neapstrādātu datu marķēšanu, modeļa rezultātu izvērtēšanu un preferenču signālu sniegšanu. Pastiprinātā mācīšanās, izmantojot cilvēku atsauksmes, ir viens labi zināms piemērs. Cilvēki sarindo vai novērtē modeļa atbildes, un šie vērtējumi apmācības laikā tiek izmantoti kā signāli. Vēl viens modelis ir aktīvā mācīšanās: modelis identificē neskaidrus piemērus, lai cilvēki, kas veic marķēšanu, varētu koncentrēties uz gadījumiem, kuri var sniegt visnoderīgāko informāciju.
HITL darbības laikā ievieš pārskatīšanu, kamēr ieviestā sistēma darbojas. Sistēma var apturēt darbību pirms sensitīvas darbības, piemēram, ziņas nosūtīšanas vai ieraksta mainīšanas, un lūgt cilvēkam apstiprināt, rediģēt vai noraidīt ierosināto darbību. LangChain HITL dokumentācijā aprakstīta starpprogrammatūra, kas var pārtraukt atlasītus rīku izsaukumus, saglabāt stāvokli un atsākt darbību pēc tam, kad pārskatītājs ir pieņēmis lēmumu.
Noderīgs darbības laika kontrolpunkts pārskatītājam parāda, ko sistēma plāno darīt, piedāvā strukturētas izvēles, reģistrē lēmumu un atsāk darbību no saglabātā stāvokļa.
Praktiska darbību secība var ietvert:
- Marķēt datus vai modeļa rezultātus ar cilvēka piešķirtām etiķetēm
- Apmācīt vai izvērtēt modeli, izmantojot šos pārskatītos piemērus
- Ieviest modeli vai AI darbplūsmu
- Pārtraukt darbību pirms atlasītām augsta riska darbībām
- Pieņemt lēmumu, vai apstiprināt, rediģēt, noraidīt vai citādi reaģēt
- Apkopot lēmumu kā strukturētu operatīvo atgriezenisko saiti
Sinhroni kontrolpunkti aptur ietekmēto darbplūsmu, līdz pārskatītājs rīkojas. Asinhroni risinājumi var ļaut nesaistītam darbam turpināties, kamēr lēmums tiek gaidīts. Jebkurā gadījumā ilgstošām darbplūsmām nepieciešams noturīgs stāvoklis. inference.sh darbības vides dokumentācija ir viens piemērs sistēmai, kurā šim nolūkam aprakstīti apstiprināšanas kontrolpunkti un pastāvīga izpilde.
Apstiprināšanas noteikumi var būt plaši vai selektīvi. Komanda var pieprasīt pārskatīšanu ikreiz, kad tiek izmantots sensitīvs rīks, vai tikai tad, ja summa, saņēmējs, uzticamības rādītājs vai cits nosacījums pārsniedz slieksni. Selektīva novirzīšana var samazināt nevajadzīgu pārskatīšanu, vienlaikus saglabājot uzraudzību pār darbībām, kurām tā nepieciešama.
Kāpēc HITL ir svarīgs: precizitāte, drošība un uzticēšanās
Cilvēka uzraudzība var uzlabot AI darbplūsmu trīs praktiskos veidos.
Labāka nestandarta gadījumu apstrāde. Modeļiem var būt grūtības ar neparastiem ievades datiem vai mainīgiem apstākļiem. Pārskatītājs var pamanīt izņēmumu un izlabot ierosināto rezultātu. Ja labojums tiek pareizi fiksēts un pārvaldīts, tas vēlāk var palīdzēt izvērtēšanā vai modeļa uzlabošanā. Labojums pats par sevi modeli automātiski neuzlabo; komandai joprojām nepieciešams apzināti izveidots atgriezeniskās saites process.
Drošākas darbības. AI sistēma, kas var nosūtīt ziņas, atjaunināt ierakstus vai apstrādāt darījumus, var nodarīt kaitējumu, ja tā nepareizi interpretē ievadi. Pārskatīšanas kontrolpunkts var mazināt šo risku, apturot atlasītās darbības pirms to izpildes. Databricks apskata cilvēka veiktu pārskatīšanu lēmumiem ar lielāku ietekmi un ieguvumu, ko sniedz atgriezeniskās saites novirzīšana atpakaļ sistēmā.
Spēcīgāka atbildība. Labi instrumentēta HITL darbplūsma var reģistrēt, kas pārskatīja darbību, kāds bija lēmums un kas notika pēc tam. Šie ieraksti palīdz incidentu pārskatīšanā, kvalitātes kontrolē un atbilstības nodrošināšanā. Virspusējs apstiprināšanas solis nav pietiekams. Pārskatītājam jābūt pietiekamam kontekstam, laikam un pilnvarām, lai mainītu rezultātu.
Cilvēku atsauksmes ir visnoderīgākās, ja tās tiek uzskatītas par pārvaldītiem operatīvajiem datiem. Komandām jādefinē, kā lēmumi tiek glabāti, kam tiem ir piekļuve, cik ilgi tie tiek saglabāti un vai tie tiks izmantoti izvērtēšanai, atkārtotai apmācībai vai netiks izmantoti nevienam no šiem mērķiem.
Kur tiek izmantots HITL: piemēri no reālās pasaules
Šis modelis tiek izmantots daudzās nozarēs, taču pārskatītāja atbildība mainās atkarībā no jomas.
Medicīniskā attēlveidošana. Klīnicists var pārskatīt AI atzīmētu attēlu, pirms rezultāts tiek izmantots diagnozes noteikšanā vai aprūpē. Atbilstošā uzraudzība ir atkarīga no ierīces, tās paredzētā lietojuma un piemērojamajām klīniskajām un normatīvajām prasībām. AI rezultātu nevajadzētu aprakstīt kā kvalificēta medicīniska sprieduma aizstājēju.
Satura moderēšana. Klasifikators var atzīmēt potenciāli pārkāpjošu saturu un nosūtīt neskaidrus vai sensitīvus gadījumus cilvēkam. Cilvēki apstrādā kontekstu un apelācijas, bet automatizācija palīdz pārvaldīt apjomu. Konsekventas vadlīnijas un pārskatītāju kalibrēšana ir svarīgas, jo pārskatīšanas lēmumus vēlāk var izmantot kā apmācības vai izvērtēšanas datus.
Klientu atbalsts. AI var sagatavot atbildes melnrakstu, ko pārskata Lietotājs. Sistēmām, kurām ir atļauts nosūtīt ziņas vai mainīt konta datus, nepieciešamas papildu kontroles attiecībā uz šīm darbībām. Komanda var pieprasīt apstiprinājumu, ņemot vērā darbības veidu, tās ietekmi un to, cik viegli to iespējams atsaukt. Plašāku informāciju skatiet Deskhero rakstā par AI klientu apkalpošanā.
Krāpšanas izmeklēšana. Modelis var piešķirt darījumiem riska vērtējumu un atlasītos gadījumus novirzīt analītiķim. Analītiķis ņem vērā kontekstu, kas var nebūt ietverts modeļa ievades datos, un pieņem organizācijas politikā paredzēto lēmumu.
Datu marķēšanas procesi. Cilvēki, kas veic marķēšanu, vai jomas eksperti anotē attēlus, tekstu vai audio pārraudzītai apmācībai un izvērtēšanai. Kvalitātes pārbaudes, skaidri norādījumi un saskaņotības mērījumi ir svarīgi, jo trokšņainas etiķetes var samazināt modeļa kvalitāti.
Profesionāļa padoms: Pirms pārskatīšanas politikas izvēles kartējiet darbības, ko sistēma var veikt. Obligāto pārskatīšanu koncentrējiet uz darbībām, kurām ir liela ietekme, kuras ir grūti atsaukt vai uz kurām attiecas īpaša atbildības prasība.
Kā izveidot produkcijas HITL sistēmu?
Produkcijas HITL risinājumam nepieciešams vairāk nekā pārskatīšanas poga. Tajā jāņem vērā saglabātais stāvoklis, pārskatītāju novirzīšana, taimauti, piekļuves kontrole un atgriezeniskās saites kvalitāte.
Noturīga izpilde un stāvokļa saglabāšana
Pārtraucamai darbplūsmai jāsaglabā pietiekami daudz stāvokļa, lai pēc lēmuma pieņemšanas to varētu droši atsākt. Atmiņā glabāta informācija var būt pietiekama lokālam testam, taču tā ir trausla, ja pārskatīšana var ilgt vairākas stundas vai pakalpojums var tikt restartēts. Izvēlieties jūsu izmantotajai darbības videi atbalstītu noturīgu datu krātuvi un pirms palaišanas pārbaudiet atkopšanos pēc kļūmēm.
Apstiprināšanas kontrolpunktu modeļi
| Kontrolpunkta veids | Kad izmantot | Kompromiss |
|---|---|---|
| Apstiprināšana katram rīkam | Atlasītām sensitīvām darbībām | Precīza kontrole; nepieciešama lielāka konfigurācija |
| Globāla apstiprināšana | Katrai darbībai stingri kontrolētā darbplūsmā | Vienkārša politika; var izveidot lielu pārskatīšanas rindu |
| Nosacījuma apstiprināšana | Pārskatīšanai, pamatojoties uz summu, saņēmēju vai riska signālu | Selektīva; nepieciešama pārbaudīta noteikumu loģika |
| Sakārtota pārskatīšanas rinda | Vairākiem vienā izpildes reizē atkarīgiem lēmumiem | Saglabā secību; var palielināt aizkavi |
Novirzīšana un eskalācija
Definējiet, kas pārskata katru lēmumu klasi. Dažos gadījumos nepieciešams jomas eksperts, savukārt citus var nodot apmācītam vispārējam pārskatītājam. Nosakiet mērķa atbildes laiku un drošu rezerves risinājumu gadījumiem, kad pārskatīšana netiek veikta. Atkarībā no riska darbplūsma var palikt apturēta, tikt eskalēta citam pārskatītājam vai apstāties, neveicot darbību.
Audita žurnāli un pārskatītāja saskarne
Saskarnei jāpalīdz pārskatītājiem pieņemt informētus lēmumus. Parādiet ierosināto darbību, būtisko avota informāciju, zināmo nenoteiktību un apstiprināšanas sekas. Strukturētas izvēles var atvieglot turpmāku analīzi, taču pārskatītājiem jābūt arī iespējai paskaidrot labojumu vai noraidījumu, ja šis konteksts ir svarīgs.
Profesionāļa padoms: Uztveriet pārskatīšanas saskarni gan kā drošības kontroli, gan datu kvalitātes rīku. Apkopojiet tikai to informāciju, kurai ir skaidri definēts izmantošanas iemesls.
Izmantojot čatbota nodošanu cilvēkam, saglabājiet sarunas kontekstu, reģistrējiet, kāpēc automatizācija tika apturēta, un novirziet iegūto pieprasījumu atbilstošajam Lietotājam vai rindai.
HITL pret Human-on-the-Loop un Human-over-the-Loop
Šie termini ne visās jomās tiek izmantoti konsekventi. Tālāk minētās atšķirības ir praktisks ietvars, nevis universālas definīcijas.
| Termins | Parastais laiks | Cilvēka loma | Vai parasti bloķē izpildi? | Izplatīts lietojums |
|---|---|---|---|---|
| Human-in-the-loop (HITL) | Pirms atlasīta lēmuma vai tā pieņemšanas laikā | Sniedz ievadi, apstiprinājumu vai labojumu | Bieži | Augstāka riska lēmumi un atgriezeniskā saite apmācībai |
| Human-on-the-loop (HOTL) | Darbības laikā | Pārrauga un var iejaukties | Parasti ne | Lielāka apjoma, vieglāk atsaucamas darbības |
| Human-over-the-loop | Visā sistēmas dzīves ciklā | Nosaka politiku un auditē rezultātus | Nē | Pārvaldība un sistēmas līmeņa uzraudzība |
Pasīva uzraudzība atšķiras no kontrolpunkta, kurā pirms darbības nepieciešams apstiprinājums. Daudzas sistēmas apvieno vairākus uzraudzības līmeņus. Tās var pieprasīt tiešu apstiprinājumu sensitīvām izmaiņām, uzraudzīt zemāka riska rezultātus un periodiski veikt pārvaldības pārbaudes attiecībā uz politikām un sistēmas veiktspēju.
Stanford HAI apraksta cilvēku kā atbildīgo perspektīvu, uzsverot jēgpilnu cilvēka kontroli. Šis skatījums pievērš uzmanību pilnvarām, auditējamībai un izmantojamām pārskatīšanas darbplūsmām, nevis tikai skaitam, cik bieži cilvēks iesaistās procesā.
Jautājumi, kas palīdz izvēlēties pieeju:
- Vai darbība var kādam kaitēt vai radīt grūti atsaucamas izmaiņas? Apsveriet bloķējošu cilvēka lēmumu.
- Vai rezultātu var ātri uzraudzīt un izlabot? Var pietikt ar uzraudzību un eskalācijas ceļu.
- Vai tiek pieņemts regulēts vai atbildīgs lēmums? Pieskaņojiet kontroli faktiskajai prasībai un dokumentējiet, kas par to ir atbildīgs.
- Vai darbība ir zema riska un labi izprotama? Pēc testēšanas var būt piemērota automatizācija ar uzraudzību.
Kādi ir īstie izaicinājumi, mērogā ieviešot HITL?
HITL rada izmaksas un kļūmju scenārijus, kas jārisina jau projektēšanas laikā.
Mērogojamība. Bloķējoša apstiprināšana palielina aizkavi un prasa cilvēkresursus. Ja katra darbība nonāk vienā un tajā pašā rindā, pārskatīšana var kļūt par šaurāko vietu. Uz risku balstīta novirzīšana ļauj intensīvāko pārskatīšanu rezervēt neskaidriem vai ļoti nozīmīgiem gadījumiem.
Aizspriedumi un savstarpēji saistītas kļūdas. Modelis, kas apmācīts, izmantojot cilvēku labojumus, var pārņemt cilvēku aizspriedumus. Pārskatītājs var arī pārāk viegli uzticēties pārliecinoši izskatīgam modelim. Pētījumos par saskaņotību un papildināmību cilvēka un AI komandās tiek pētīts, kad modelim būtu jāatbilst cilvēku preferencēm un kad atšķirīgas stiprās puses var uzlabot komandas sniegumu. Daudzveidīga pārskatīšana, kalibrēšana un saskaņotības pārbaudes var palīdzēt atklāt sistemātiskas atšķirības.
Privātums un datu pārvaldība. Pārskatītāji var redzēt personas, finanšu, veselības vai konfidenciālu informāciju. Ierobežojiet piekļuvi tikai tai informācijai, kas pārskatītājam nepieciešama, aizsargājiet datus pārsūtīšanas un glabāšanas laikā un pirms pārskatīšanas ierakstu apkopošanas definējiet saglabāšanas un atkārtotas izmantošanas politikas.
Cilvēku nogurums un nekonsekvence. Atkārtota pārskatīšana var novest pie sasteigtiem lēmumiem un mainīgiem standartiem. Noderīgas kontroles ietver:
- Nosakiet darba slodzi, kas atbilst uzdevuma sarežģītībai
- Veiciet kalibrēšanas vingrinājumus, izmantojot tos pašus paraugus
- Ja uzdevumam ir pamatoti izmantojams atsauces standarts, mēriet saskaņotību
- Mainiet veicamos uzdevumus, ja tas nemazina jomas zināšanas
- Uzraugiet neparastas izmaiņas apstiprināšanas, rediģēšanas vai noraidīšanas modeļos
Izmaksas. Cilvēku veiktā pārskatīšana patērē laiku un speciālistu uzmanību. Salīdziniet šīs izmaksas ar to kļūdu paredzamajām izmaksām un iespējamību, kuru novēršanai kontrole paredzēta. Kontrolpunkts, kurā tiek pārskatīts viss, var izmaksāt vairāk, vienlaikus sniedzot mazu aizsardzību.
Praktisks kontrolsaraksts HITL sistēmu ieviešanai
Pirms HITL darbplūsmas ieviešanas secīgi izskatiet šos jautājumus.
- Riska novērtējums. Uzskaitiet darbības, ko sistēma var veikt. Klasificējiet tās pēc ietekmes, atsaucamības un atbildības prasībām.
- Pārskatītāja definēšana. Nosakiet, kas drīkst pārskatīt katru darbību un kāda informācija un pilnvaras šim cilvēkam ir nepieciešamas.
- Saskarnes dizains. Parādiet pietiekamu kontekstu reāla lēmuma pieņemšanai. Definējiet apstiprināšanas, rediģēšanas, noraidīšanas un eskalācijas ceļus, ja tie attiecas uz konkrēto gadījumu.
- Saglabāšanas stratēģija. Saglabājiet stāvokli, kas nepieciešams drošai atsākšanai, un pārbaudiet restartēšanu un dublētus lēmumus.
- Atgriezeniskās saites plāns. Izlemiet, vai pārskatīšanas ieraksti paredzēti auditam, izvērtēšanai, atkārtotai apmācībai vai to kombinācijai. Neuzskatiet, ka tie ir piemēroti ikvienam mērķim.
- Pārvaldība. Piešķiriet atbildību par pārskatīšanas kvalitāti, piekļuvi, saglabāšanu, novirzīšanas noteikumiem un kontroles izmaiņām.
Noderīgi rādītāji var ietvert:
- Pārskatīšanas īpatsvars: to pārskatīšanai nosūtīto atbilstošo darbību daļa
- Lēmuma pieņemšanas laiks: aizkave no darbības pārtraukšanas līdz pabeigtai pārskatīšanai
- Lēmumu sadalījums: apstiprināto, rediģēto, noraidīto vai eskalēto gadījumu daļa
- Kļūdu rezultāti: problēmas, ko pārskatīšana atklāja, un tās, kas, neraugoties uz pārskatīšanu, tika palaistas garām
- Pārskatītāju saskaņotība: konsekvence atlasītos gadījumos, kuros salīdzināšanai ir jēga
Samaziniet pārskatīšanu tikai pēc reālo rezultātu izpētes. Ja kāda kategorija tiek konsekventi apstiprināta, pārbaudiet šaurāku politiku uzraudzības apstākļos. Ja kāda kategorija tiek konsekventi noraidīta, uzlabojiet modeli vai nepieļaujiet šo darbību, nevis pievienojiet vairāk pārskatītāju.
Ko pašreizējie pētījumi saka par HITL nākotni?
Pašreizējie pētījumi arvien biežāk jautā, kā padarīt cilvēku iesaisti noderīgāku, nevis vienkārši pievienot vairāk pārskatīšanas.
Pētījumi par saskaņotiem un papildinošiem modeļiem liecina, ka spēcīgām cilvēka un AI komandām var būt nepieciešami abi. Modelis, kas atdarina cilvēka spriedumu, var būt paredzams, savukārt modelis ar citām stiprajām pusēm var pamanīt kaut ko, ko cilvēks nav pamanījis. Pareizais dizains ir atkarīgs no uzdevuma, pieejamajiem pierādījumiem un tā, kā tiek atrisinātas domstarpības.
Cilvēku kā atbildīgo perspektīva arī mudina komandas jautāt, vai cilvēkiem ir jēgpilnas pilnvaras. Pārskatītājs, kuram trūkst konteksta, laika vai pilnvaru apturēt darbību, nav efektīva drošības kontrole, pat ja darbplūsma reģistrē apstiprinājumu.
Izvērtēšanas vērti modeļi ietver:
- Uz pārtraukšanu balstītus apstiprinājumus atlasītām darbībām ar noturīgu izpildi
- Strukturētas pārskatīšanas veidlapas, kas fiksē lēmumus un noderīgus iemeslus
- Uz risku balstītu novirzīšanu, kas apvieno modeļa signālus ar darbības sekām
- Papildināmības testēšanu, kas mēra, vai cilvēks un modelis kopā darbojas labāk nekā katrs atsevišķi
Noderīgs eksperiments ir sagrupēt pārskatīšanas rezultātus pēc darbības veida un riska grupas. Aplūkojiet apstiprināšanas, rediģēšanas, noraidīšanas, incidentu un aizkaves rādītājus. Rezultāts var parādīt, kur pārskatīšana atklāj būtiskas problēmas un kur tā tikai rada papildu aizkavi.
Profesionāļa padoms: Neoptimizējiet tikai apstiprināšanas īpatsvaru. Augsts apstiprināšanas īpatsvars var liecināt par uzticamu kategoriju, nepietiekamu rūpību vai kontrolpunktu, kas vērsts uz nepareizo darbu. Salīdziniet apstiprinājumus ar kļūdām un tālākiem rezultātiem.
Galvenās atziņas
Cilvēka iesaiste AI darbības ciklā ir visvērtīgākā, ja cilvēka lēmums ir saistīts ar skaidru risku, balstīts noderīgā kontekstā un reģistrēts noteiktam mērķim.
| Atziņa | Sīkāka informācija |
|---|---|
| HITL var atbalstīt apmācību un darbības laika kontroli | Cilvēka ievade var marķēt datus, izvērtēt rezultātus vai kontrolēt atlasītas darbības. |
| Uz risku balstīta novirzīšana palīdz kontrolēt izmaksas | Koncentrējiet bloķējošo pārskatīšanu uz darbībām, kuru ietekme attaisno aizkavi un pūles. |
| Noturīgs stāvoklis nodrošina uzticamu pārtraukumu apstrādi | Produkcijas darbplūsmai jāspēj izturēt restartēšanu un ilgstošas pārskatīšanas aizkaves. |
| Jēgpilnas pilnvaras ir svarīgas | Pārskatītājiem nepieciešams konteksts, laiks un iespēja mainīt vai apturēt rezultātu. |
| Deskhero saglabā automātiskā atbalsta funkciju kontroli | Tā tērzēšanas robots un AI automātiskās atbildes izmanto apstiprinātu publisko BUJ saturu, ir aktivizējamas pēc izvēles un nenoskaidrotos jautājumus nodod cilvēkiem. |
Ko lielākā daļa komandu pārprot par HITL
Pārskatīšanas solis var izskatīties atbildīgs, vienlaikus sniedzot ļoti mazu aizsardzību. Ja pārskatītājiem trūkst konteksta, viņi apstiprina aiz ieraduma vai nevar apstrīdēt sistēmu, organizācija ir izveidojusi rindu, nevis jēgpilnu uzraudzību.
Kontrolpunktam jābūt saistītam ar konkrētu mērķi. Ja tā nolūks ir novērst kaitīgas darbības, mēriet, ko tas atklāj un kas joprojām izkļūst cauri. Ja pārskatīšanas dati tiks izmantoti modeļa uzlabošanai, fiksējiet, kāpēc rezultāts tika rediģēts, un novērtējiet, vai etiķetes ir pietiekami konsekventas šādam lietojumam.
Komandām jānošķir nevajadzīgas pārskatīšanas samazināšana no cilvēka pilnvaru vājināšanas. Nobriedušas sistēmas var automatizēt labi izprastas, zema riska kategorijas, vienlaikus nodrošinot cilvēkiem labākus rīkus un skaidrākas eskalācijas pilnvaras lēmumiem, kas paliek viņu ziņā.
Tāpēc HITL ir tikpat lielā mērā organizatoriska spēja, cik tehniska funkcija. Tas, vai darbības cikls darbojas, ir atkarīgs no personāla, politikas, apmācības, saskarnes dizaina un datu pārvaldības.
Deskhero cilvēka uzraudzību izvirza AI atbalsta centrā
Deskhero klientu atbalstā izmanto vairākus cilvēka uzraudzības principus. Tas var sagatavot atbilžu melnrakstus, ko pārskata Lietotāji. Tā klientiem paredzētais tērzēšanas robots un AI automātiskās atbildes sniedz atbildes tikai no darbvietas apstiprinātajiem publiskajiem BUJ. Abas automātiskās funkcijas ir aktivizējamas pēc izvēles, un automātiskās darbības tiek marķētas un reģistrētas.
Deskhero iesaka BUJ ierakstus, pamatojoties uz atrisinātām biļetēm un no tīmekļa vietnes iegūtām lapām. Lietotājs pārskata, rediģē, apstiprina vai noraida katru ieteikumu, pirms tas kļūst publisks. Tērzēšanas robotam nepieciešami vismaz 100 apstiprināti publiski BUJ ieraksti. Ja tas nespēj atbildēt, tas pāriet uz veidlapu, lai cilvēks varētu turpināt sarunu pa e-pastu.
E-komercijas komandām Shopify integrācija izmanto tikai lasīšanas piekļuvi, lai biļetē parādītu klienta un pasūtījuma informāciju. Deskhero piedāvā arī divvirzienu pastkastes savienojumus ar Gmail, Google Workspace un Microsoft 365, lai komandas varētu saglabāt savu esošo e-pasta adresi.
Varat sākt 30 dienu bezmaksas izmēģinājumu bez kredītkartes.
Noderīgi avoti
Šie avoti sniedz ieviešanas norādes un pētniecisku kontekstu. Pārbaudiet dokumentāciju, lai noskaidrotu precīzu jebkura izmantotā ietvara versiju.
| Avots | Ko tas aptver |
|---|---|
| LangChain HITL dokumentācija | Pārtraukumi, pārskatīšanas lēmumi, saglabāšana un konkrētiem rīkiem paredzēta apstiprināšanas konfigurācija |
| inference.sh HITL dokumentācija | Apstiprināšanas kontrolpunkti un noturīga izpilde darbības vidē |
| Databricks par cilvēka iesaisti AI darbības ciklā | Cilvēku atsauksmes, novirzīšana un operatīvais dizains |
| IBM: Kas ir cilvēka iesaiste AI darbības ciklā? | Definīcijas, izplatītie lietojumi un uzņēmumu apsvērumi |
| Stanford HAI: Kas ir cilvēka iesaiste AI darbības ciklā? | Cilvēka uzraudzība un cilvēku kā atbildīgo perspektīva |
| Stanford HAI: Cilvēki darbības ciklā — interaktīvu AI sistēmu dizains | Interaktīva AI dizains un cilvēka un AI sadarbība |
| AAAI: Saskaņoties, kad viņi vēlas, papildināt, kad viņiem nepieciešams | Saskaņotība, papildināmība un cilvēka un AI komandas sniegums |
| Harvard Data Science Review: Datu zinātne un inženierija ar cilvēka iesaisti darbības ciklā | Cilvēka lomas datu zinātnē, inženierijā un uzraudzībā |
| PMC: Cilvēka iesaistes pieejas klīniskajā AI | Klīniskie lietojumi un cilvēka uzraudzība |
BUJ
Ko AI jomā nozīmē cilvēka iesaiste darbības ciklā?
Cilvēka iesaiste AI darbības ciklā nozīmē cilvēka ievades iekļaušanu noteiktā AI procesa posmā. Cilvēks var marķēt datus, izvērtēt rezultātu, izlabot iznākumu vai apstiprināt darbību pirms tās veikšanas.
Kāda ir atšķirība starp cilvēka iesaisti darbības ciklā un Human-on-the-Loop?
Parastajā lietojumā HITL pieprasa cilvēka ievadi atlasītam lēmumam un bieži aptur ietekmēto darbplūsmu. Human-on-the-Loop parasti apzīmē sistēmu, kas darbojas, kamēr cilvēks to uzrauga un var iejaukties. Terminoloģija atšķiras, tāpēc sistēmas aprakstā jānorāda faktiskā kontrole, nevis jāpaļaujas tikai uz apzīmējumu.
Ko AI aģentiem nozīmē cilvēka iesaiste darbības ciklā?
AI sistēmās, kas var veikt darbības, HITL bieži nozīmē darbības apturēšanu pirms atlasītas darbības, priekšlikuma un būtiskā konteksta parādīšanu pārskatītājam un atsākšanu tikai pēc atļauta lēmuma. Darbplūsmai jāsaglabā stāvoklis un jāreģistrē pārskatītāja izvēle.
Ko AI jomā nozīmē Human-on-the-Loop?
Human-on-the-Loop parasti nozīmē, ka AI sistēma darbojas, kamēr cilvēks uzrauga rezultātus un var to apturēt, izlabot vai ignorēt. Parasti tam nav nepieciešams apstiprinājums pirms katras darbības.
Kā Deskhero ievieš cilvēka iesaisti AI darbības ciklā atbalsta komandām?
Deskhero sagatavo atbilžu melnrakstus, ko pārskata Lietotāji. Tā tērzēšanas robots un AI automātiskās atbildes ir aktivizējamas pēc izvēles un sniedz atbildes tikai no apstiprinātajiem publiskajiem BUJ. Automātiskās darbības tiek marķētas un reģistrētas, bet nenoskaidrotie tērzēšanas jautājumi tiek novirzīti uz veidlapu, lai cilvēks varētu turpināt saziņu pa e-pastu.