Ce este modul DAN? S-a explicat mesajul Snapchat My AI & ChatGPT Jailbreak
Utilizatorii Snapchat și-au dat seama cum să facă jailbreak AI-ul meu folosind o tehnică promptă care a început cu ChatGPT: „Mod DAN”. Iată ce înseamnă.
niste Snapchat utilizatorii și-au dat seama cum să facă jailbreak chatbot-ul meu AI al platformei prin activarea "Modul DAN.” Snapchat a lansat pentru prima dată botul său conversațional bazat pe ChatGPT, My AI, pentru abonații plătiți în februarie 2023. Două luni mai târziu, Snapchat a pus la dispoziție botul gratuit pentru toți utilizatorii. În timp ce Snap spune că a pus măsuri de protecție pentru a împiedica AI să se implice în conversații nepotrivite, au existat totuși preocupări legate de siguranța acestuia, mai ales când este folosit de copii și adolescenți.
Modul DAN, prescurtare de la „fă orice acum,” este un jailbreak ChatGPT care permite agentului AI să acționeze în afara constrângerilor sale normale, jucându-se ca model cu mai puține restricții. Cu modul DAN activat, chatbot-ul este mai mult sau mai puțin necenzurat și poate răspunde la întrebări la care AI ar refuza de obicei să răspundă din motive etice. Poate promova teorii ale conspirației sau poate scuipa opinii ofensatoare. Tactica a devenit pentru prima dată populară printre utilizatorii ChatGPT de la OpenAI și s-a răspândit la My AI (care este alimentat de GPT) după lansarea publică a botului.
Snap a prins jailbreak-urile
Modul DAN este activat printr-un prompt sau o serie de prompturi, dintre care mai multe versiuni au circulat Reddit, Twitter și GitHub de luni de zile. Solicitările prezintă instrucțiunile pe care chatbot-ul trebuie să le urmeze pe măsură ce adoptă „pretinde” personajul unui călcător de reguli. Totuși, nu este întotdeauna un schimb simplu; mulți dintre cei care au descris procesul online spun că trebuie să reamintească în mod repetat chatbot-ului să rămână în caracter.
De când DAN Mode a început să câștige acțiune în rândul utilizatorilor ChatGPT, OpenAI a lansat corecții pentru a-l combate. Același lucru pare să se întâmple și cu versiunea folosită de Snapchat. Multe dintre solicitările anterioare care au activat modul DAN pentru ChatGPT și My AI vor fi acum refuzate de roboți. La rândul lor, jailbreakerii au modificat solicitările DAN pentru a ocoli noile restricții. Pe rețelele de socializare, utilizatorii care au încercat-o au distribuit rapoarte mixte despre succesul lor. În Screen Ranttestelor lui, botul Snapchat a spus că nu a putut răspunde la cererea DAN Mode, invocând programarea sa.
Snapchat-ul AI-ul meu nu a existat de foarte mult timp și cu siguranță va continua să evolueze Snap învață mai multe despre cum îl folosesc oamenii. Deja, compania spune că a implementat îmbunătățiri la răspunsurile chatbot-ului pentru a reduce „cereri nepotrivite” și a implementat un instrument de semnalare a vârstei pentru a proteja mai bine utilizatorii minori. Însă, până acum, scriitorii inteligenți prompti par să fie întotdeauna cu un pas înainte.
Sursă: Reddit, Snap