God AI trenger relevante data

Kontekst gjør oppgaven konkret

En kraftig AI-modell kan gi et godt generelt svar. Skal den hjelpe med din oppgave, trenger den ofte mer kontekst: hva du ønsker å oppnå, hvilke forutsetninger som gjelder og hvilke opplysninger som er relevante nå.

Et eksempel fra filmkvelden

«Hva skal vi se?» er et enkelt eksempel. Et generelt svar kan foreslå populære filmer. Et mer relevant utgangspunkt kan ta hensyn til tjenester du bruker, hva du allerede har sett og hvem du skal se sammen med. Det er et illustrert eksempel på verdien av kontekst, ikke et løfte om at ethvert forslag vil treffe.

Mengde, kvalitet og bruksgrenser

Flere data er heller ikke automatisk bedre. Gamle, feilaktige eller irrelevante opplysninger kan trekke svaret i feil retning. Det samme kan instruksjoner eller antakelser som ikke passer oppgaven. Kilden, tidspunktet og betydningen av opplysningene må derfor følge med.

Vi mener at AI bør få det datagrunnlaget oppgaven trenger, innenfor tydelige bruksgrenser. En modell trenger ikke hele en persons historie for å hjelpe med ett valg. Tilgang til én tjeneste bør heller ikke bety tilgang til alt som finnes andre steder i økosystemet.

Vårt standpunkt

AI kan hjelpe med å formulere, sortere, sammenligne og forklare. Brukeren må fortsatt kunne vurdere resultatet og forstå usikkerheten. Derfor er Ideallyas arbeid med data en viktig del av arbeidet med nyttig AI: relevant kontekst, forståelig opprinnelse og konkrete oppgaver.

Prøv en liten sammenligning som kan kontrolleres

Be en KI-assistent om tre filmer for i kveld. Gjenta så oppgaven med noen få relevante opplysninger: språkene alle forstår, tiden dere har til rådighet, sjangrene dere er enige om, og filmer dere allerede har sett. Hold sensitiv eller uvedkommende historikk utenfor begge forespørslene.

Sammenlign svarene med disse kravene. Respekterte det andre svaret tidsgrensen og unngikk filmer dere har sett? Kontroller tilgjengeligheten hos strømmetjenesten. Et mer personlig svar kan fortsatt inneholde en feilaktig opplysning; en selvsikker tone og flytende formuleringer er ikke bevis på at informasjonen er oppdatert.

Behold den nyttige konteksten, rett feilene og fjern detaljer som ikke hjalp. Dette gir deg en praktisk prøve på verdien av dataene dine, i stedet for å anta at mer data alltid forbedrer et svar. NISTs veiledning om generativ KI behandler pålitelighet og proveniens som spørsmål innen risikostyring.