Duże modele językowe takie jak GPT-4 są podatne na włamania (tzw. jailbreaks), które zmuszają je do odpowiedzi w niebezpieczny, kontrowersyjny lub toksyczny sposób. Opowiem o projekcie, gdzie wykorzystaliśmy niestandardowe API modeli językowych, takie jak np. fine-tuning, by znaleźć kolejne podatności tych modeli. Zmusiliśmy je m. in. do tworzenia teorii spiskowych i ujawniania adresów e-mail prawdziwych osób.