Hackare lurar AI med ASCII-konst

Det där stämmer iofs inte. Inlindning, kontextualisering om man så vill, är väldigt relevant för människor i alla åldrar. Ta valfri lösryckt text från bibeln t.ex så kommer i princip alla skratta åt den, men i kontexten ”bibeln” (med allt vad det innebär) så har du en av världens största religioner som lurar typ alla i den.

Barn är väldigt lätta att lura på samma sätt.

Hen menade väl att någon som har den kompetensen hittar hur man gör bomber med eller utan ”AI”. Vilket jag tycker låter helt rimligt.

Fast nu var det ju ingen lösryckt text. Det var ett förbjudet ord som uttrycktes på ett annat vis och refererades till i en text och därigenom slank genom censuren. Det är som att säga nu vill jag ha hjälp att bygga en *pekar på en bild av ordet bomb*. Det skulle ett barn förstå är jag fullkomligt övertygad om. Men det är helt ok att försvara AI, jag anser det fortfarande saknas rätt mycket innan det kan bli tal om någon intelligens istället för att fungera som ett avancerat uppslagsverk.

Jo men om du säger till mig (enl. ditt exempel) att ”om någon uttalar ordet ”bomb” i en fråga, så kan/får du inte besvara den”

Även om jag förstår att innebörden med att peka på en bild är samma, så kommer jag >0 gånger besvara frågan, eftersom ditt förbud inte är tillräckligt specifikt.

Att jag har problem med auktoritet spelar såklart in, men det är inte avgörande.

Det här är något som alla gör mer eller mindre dagligen.

Jag försvarar inte AI, jag menar att allt det här är helt meningslöst, och det jag skulle vilja veta är om dom som försvarar AI menar att det här är en nödvändig väg till faktisk AI/AGI.

Jag såg Jon Stewarts rant i morse, och är inne på samma bana.

https://youtu.be/20TAkcy3aBY?si=vB822yGjetX79DB3

Jag kan förstå hur du menar och bra kommentar. Även en intressant video!

Det handlar inte om att luras utan snarare om belöningssystem.
En AI belönas när den löser användarens uppgifter, för det är dess uppgift, och straffas när den gör saker den är tränad att inte göra.

Skriver man då frågan på ett sätt att belöningen blir större än bestraffningen så kan man få den att göra saker som den är tränad att inte göra, precis som ett barn.
Säger du till barnen att de får 5kg godis om de ritar på väggen så kommer nog en hel del av dem rita på väggen även fast mamma sagt att det är förbjudet.

Tog mig fyra meningar på första försöket att få instruktioner för hur man bygger en bomb från ChatGPT 3.5, utan ASCII-konst. Att försöka begränsa en LLM från att delge information är väldigt svårt iom hur den fungerar.