Conscious Prompting
Syftet med riktlinjerna är att säkra att Spoon använder generativ AI på ett ansvarsfullt och etiskt sätt – vi kallar det Conscious Prompting. AI-verktyg ska kunna användas för att utveckla vår verksamhet och effektivisera processer. Det skall användas som kreativa verktyg och för att utforska nya typer av innehåll, av hög kvalitet. Det är samtidigt viktigt att vi har fokus på integritets- och datasäkerhetsfrågor och transparens, både internt och mot kund.
Riktlinjerna omfattar alla som arbetar med alla delar av leverans mot kund. Alltså gäller de samtliga medarbetare på Spoon, våra underleverantörer och partnerbyråer. Ansvaret att tillgodose att externa parter har kännedom om riktlinjerna ligger på Spoon. Mot underleverantörer ska detta regleras genom avtal och mot partnerbyråer genom att dela dessa riktlinjer.
Tänk alltid på följande:
2.1 Ansvar
Spoon ansvarar för allt användande av AI-genererat innehåll som används externt, dessutom har vi ett behandlingsansvar enligt GDPR. Därför är det viktigt att den som skapar AI-genererat innehåll känner till rådande lagar, regler och riktlinjer kring integritet, datasäkerhet, etik och imateriella rättigheter/upphovsrätt.
2.2 Vilken roll har AI-verktygen i vår produktion?
Vi ser på generativ AI som ett verktyg som stärker vår kompetens, snarare än att ersätta den. Fler och fler av våra arbetsuppgifter kommer att kunna automatiseras och effektiviseras med hjälp av AI, men vi har ännu inte bestämt hur vi ska integrera AI i våra leveranser, utan utvärderar detta löpande och lyhört.
2.3 Användande av AI-verktyg
Vi har ännu ingen fast översikt över vilka AI-verktyg som är okej att använda, utan ansvaret att säkra att leveranser följer våra riktlinjer ligger på den som använder verktyget. AI-verktygen är ännu inte en integrerad del av arbetsvardagen för alla och licenser till betalversioner värderas därför av närmaste chef/ledare. Vi har ansökt om en företagslösning från ChatGPT, men behandlingen av den kan dra ut på tiden, eftersom söktrycket är hårt.
3.1 Godkännande från kund
Innan AI används till slutleveranser i ett kundprojekt, ska kunden ha godkänt användande av AI.
Idégenerering, research eller skissarbete (mock-ups, storyboards, etc) kan genomföras utan kundens godkännande, med hänsyn tagen till eventuell sekretess eller känsliga uppgifter.
3.2 Kvalitetskontroll och källkritik
Använder du AI-verktyg har du ansvar för att säkra att resultatet är korrekt, sakligt och håller hög kvalitet. Det betyder bland annat att du ska undersöka källorna som använts för att generera innehållet.
Generativa textverktyg, som ChatGPT, kan både ljuga och felinformera, därför ska allt innehåll som används i produktionsprocesser kontrolleras och kvalitetssäkras innan det tas vidare.
3.3 Förädling av innehåll
Om inte uppdraget från kund tydligt innebär användande av rent AI-genererat innehåll, ska innehållet alltid förädlas av den ansvarige, innan det används. Detta gäller särskilt textinnehåll.
3.4 Transparens och trovärdighet
Innehåll som är framtaget med hjälp av AI ska alltid märkas som AI-genererat. Detta gäller särskilt användandet av AI-genererat visuellt material, bild och video. Vi ska under inga omständigheter använda AI-genererat material som kan få mottagaren att tro att en uppdiktad händelse är verklig. Allt innehåll som simulerar en verklig situation ska vara särskilt noggrant uppmärkt. Detta kan till exempel vara bilder eller video som visar faktiska personer, händelser eller platser. Skillnaden mellan äkta historier och påhittad reklam ska vara mycket tydlig, när AI-verktyg har använts.
Ibland kan det vara aktuellt att byta ut en stockbild mot en AI-genererad bild. Så länge bilden uppfyller övriga krav, räcker det då med att märka upp bilden som AI-genererad. Uppmärkning sker genom en tydlig kreditering eller textmärkning över bild/video. Vi håller på att ta fram en gemensam standard för märkning av AI-genererat, visuellt innehåll.
4.1 Sekretess
Olika AI-verktyg har olika sätt att behandla data du matar in och de flesta använder också datan för att träna upp AI-modellerna. Därför ska du aldrig mata in sekretessbelagd, integritetskränkande eller på andra sätt känslig data i verktygen. Är du osäker på graden av känslighet är det ditt ansvar att kolla upp detta med kundansvarig eller AI-ansvarig på kontoret.
● Mata aldrig in personuppgifter eller konfidentiell information från kund
● Anonymisera kund och personer
● Där det är möjligt, kryssa i att verktyget inte får använda data du matar in för att träna modellen
● Mata aldrig in dokument du inte har tillåtelse att dela
Alla som använder AI-verktyg ska känna till verktygens brister och svagheter.
● Eftersom AI-verktygen är framtagna av människor och tränade på människoskapad data kan de ha fördomar och fel. De kan diskriminera och är i dagsläget tränade på data som inte tar hänsyn till jämställdhet och mångfald. Därför är resultaten ofta generiska och likriktade.
● AI-verktygen har ingen moralkompass och kan inte fatta beslut på etisk grund.
● AI-verktygen kan inte värdera källors trovärdighet, vilket betyder att informationen de producerar kan vara baserad på oetiska, opålitliga eller felaktiga källor.
● Textverktyg som ChatGPT ljuger när de inte vet svaret. Detta inskärper vikten av att alla som använder generativ AI, gör det på ett medvetet och ansvarsfullt sätt. Det är här begreppet Conscious Prompting kommer in.
Conscious Prompting är Spoons eget sätt att definiera ett ansvarsfullt användande av AI och AI-verktyg. Det handlar om att ha en medveten hållning till AI när vi promptar – och när vi får resultaten från det vi promptar. Vi ska ta oss an AI med omtanke, hålla fast vid våra etiska principer och säkra hög kvalitet i allt vi gör. Vi ska aldrig tappa vår moral, eller slira på sanningen och äktheten och vi ska alltid leverera resultat som är inkluderande, visar mångfald och är representativa.
Prompting som expertområde växer i samma takt som AI-verktygen och vi kommer att ta fram lathundar i promptingteknik. Tillsvidare vill vi vara tydliga med att det oftast krävs flera lager av prompts för att få fram innehåll som går att använda (enligt ovan riktlinjer) och att säkerhetsfrågorna nedan bör ställas vid all användning av AI-verktyg.
Innan vi promptar ett AI-verktyg ska vi alltid fråga oss:
● Är detta något som bör promptas?
● Är detta information jag bör dela?
● När vi får resultatet ska vi alltid fråga oss:
● Är det etiskt att använda det här innehållet?
● Är innehållet korrekt?
● Ger innehållet en manipulerad bild av verkligheten?
● Är innehållet representativt?
● Visar innehållet mångfald?
● Är innehållet inkluderande?
För att stötta alla medarbetare i arbetet med AI-verktyg kommer det att finnas Conscious Prompters på samtliga kontor. Om du är osäker på användandet av AI-verktyg kan du alltid kontakta din närmaste Conscious Prompter för vägledning.