Open AI kan vattenmärka text – avvaktar med lansering

<sarcasm>
Klart vi ska införa detta och straffa de goda användarna, precis som DRM, snattegrindar efter kassörskor o.s.v.
</s>

Fusk har alltid funnits. Undra hur många som i skolan som har haft en pojk eller flickvän som har hjälp dem med saker som programmering, matematik, rapportskrivning och annat?

Vissa prov som certifieringar har tillverkare regler som. Hela provet spelas in, om de någon gång i framtiden med ny teknik upptäcker att man har fuskat. Så kommer de ta bort alla ens certifikat och man kommer bli bannad resten av livet för att skriva nya certifikat hos dem. Man som användare har inte ens rätt att veta något om varför de misstänkte en fuska..

Egentligen är dessa regler inget speciellt, liknande finns på datorspel. Där folk säger att de inte alls har fuskat och tillverkaren ger absolut ingen information om vad de har för bevis.

Med det sagt tror jag Ai både kommer använda till fusk och emot fusk, emot fusk genom vattenmärkning och upptäcka saker. Det jag inte gillar är när användaren inte får någon chans att försvara sig. Som Gamern som har lagt 5år på ett spel, blir livstidsbannad utan att få veta varför.

Jag tycker verkligen inte att ChatGPT borde vattenmärka sin text. För det första handlar det om integritet och användarupplevelse. Ingen vill känna sig övervakad eller begränsad i hur de använder texten, det känns som en stor integritetsfråga. Dessutom kan vattenmärkning göra texten ful och svårläst, och ingen vill ha störande märken i sitt material.

Sedan är det ju också en fråga om äganderätt. Många av oss använder ChatGPT för att skapa eget innehåll, och om texten är vattenmärkt känns det som att vi inte riktigt äger det vi skapar. Vi vill ha full kontroll över det vi skapar utan att OpenAI lägger sig i med sina vattenmärken.

Tilliten är också viktig. Vattenmärkning kan få folk att tro att OpenAI försöker spåra eller kontrollera hur texten används, vilket minskar förtroendet för dem. Om texten inte är vattenmärkt visar det att OpenAI är neutral och inte försöker påverka oss.

Och tänk på de praktiska hindren. Att vattenmärka texten kan vara komplicerat och kräva mycket resurser, det känns bara onödigt. Dessutom kan det leda till fel och strul där legitima användare straffas felaktigt.

Om OpenAI erbjuder en vattenmärkesfri tjänst kan de sticka ut och locka fler användare som gillar frihet och integritet. Ingen vattenmärkning signalerar också en öppen och transparent affärsmodell, vilket är bra både för privatpersoner och företag.

Microsoft har nog hunnit göra om (bloata ner) notepad så det inte är möjligt längre lagom till detta släpps

Svårt att se hur det skulle fungera. En användare kan ju ta enskilda meningar eller ändra ord, eller ska denna märkning genomsyra hela texten?

Jag har svårt att tro att det blir problemfritt

Det går såklart att använda väldigt sofistikerad vattenstämpling och inte så plumpa alternativ som presenterats i tråden, bra vattenmärkning ska inte synas om man inte letar efter den med t.ex en UV-lampa eller liknande.
Byta text- eller bakgrunds-färg ett snäpp kan vara simpelt nog för att fånga lata fuskare.
Jag tycker vattenstämpling låter utmärkt inte bara för att sätta dit fuskare, utan för att folk ska få reda på ATT materialet är AI-genererat och därmed få friheten att göra sina egna slutsatser.
AI material bör alltid korrekturläsas, precis som vanligt, men det slarvas det med enormt, kolla bara SVT helt hopplöst med fel där.

Det är ju skillnad på om tex ens jobb låter en använda sig av ai-tjänster eller inte. Om det föregående gäller så är det ju inte något problem om det är vattenmärkt.

Helt möjligt att OpenAI inte riktigt vill vara ett företag som säljer en tjänst som folk sedan använder för att gå emot vad deras arbetsgivare säger.

Det brukar vara ganska enkelt att se om en text är skriven med ChatGPT till exempel, då den har en ganska tydlig stil som på något sätt lyser igenom. Om jag som människa kan se skillnad på AI-genererad text och text som en riktig människa skrivit, så är det ju inte omöjligt att en AI-modell kan göra det också, särskilt om man lägger in subtila stilistiska val och ordval som kan färga en text på ett specifikt sätt utan att tydligt signalera det för en människa som läser.

Utmaningen blir nu att för egen hand skriva på ett sådant vis att man blir anklagad för att ha använt AI

Det går att komma runt beroende på hur prompten utformas. Var ju ett försök nyligen för at se om den klarade Turing-testet och det visade sig vara tämligen svårt att skilja AI från människa.

Fast det var ju ChatGPT som skrev texten så blanda inte in mig i det här?

Precis, människor skriver på olika sätt. Det gör att om du har något du vet en människa skrivit så kan du reda ut hur sannolikt det är att samma människa även skrivit en annan text.

Du behöver inte ens detektera om det är en LLM som skrivit eller ej, du behöver bara se om det är samma person. Visst kan LLM:er potentiellt programmeras för att efterlikna en viss persons stil, men det är en ganska hög tröskel för de flesta fuskare.

Kanske är det bra att OpenAI utvecklar teknik för att vattenmärka text. Om det används rätt, kan det förhindra fusk. Problemet är att det kan kännas som övervakning. Inte alla kommer att uppskatta detta. Effektiviteten beror på hur väl det implementeras. Rätt balans mellan säkerhet och frihet är viktigt. Att ändra texten för att undvika vattenmärkning kan vara enkelt. Därför måste tekniken vara robust.

För att skapa tillit måste användarna känna sig trygga. Risken för felaktiga anklagelser kan minska tilltron. Åtgärder behövs för att säkerställa rättvisa. Noggrann testning och förbättringar är nödvändiga. Om detta implementeras på ett bra sätt, kan det bli framgångsrikt. Perceptionen av tekniken bland användarna är avgörande. Effektiva lösningar bör inte kompromissa med användarvänligheten. Ny teknik kräver tid att anpassas. Alla aspekter måste beaktas noggrant. Implementeringen bör vara transparent och rättvis.

Vattenstämplad text genererad med ChatGPT - Ser ni det enkla mönstret? 😜

Ladda upp texter som du redan skrivit och be den formulera sig som som du gör... omg, massa extra arbete du skapar för dig själv genom att skriva om texten själv.

Har man inget skrivit någonting öht tidigare blir det jobbigare ja, men ladda upp lite gamla texter man har skrivit tidigare och instruera den att formulera sig framöver på liknande sätt. Kan vara helt andra texter än den man ska skriva, forum inlägg t.ex. lär gå bra, det är ens personliga sätt att uttrycka sig man är ute efter.

Är det något generell ai är bra på så är det textbearbetning.

Tycker det låter bra, skriver chatgpt en sång kan den anmäla sig till Stim och tjäna storkovan på låten den skrivit åt någon 🤣🤣