Hvad må min AI-assistent ikke?

Det, den aldrig må

Den må aldrig selv sende noget ud, og den har ikke adgang til at gøre det. Mails, beskeder, formularer og opslag bliver skrevet som kladder. Enten trykker jeg selv på send, eller også har jeg godkendt den fulde tekst, og så bliver den sendt af et separat program, som assistenten ikke kan styre.

Den må ikke handle uden mit ja, når det gælder servere, kalenderen og andet, der ikke kan fortrydes.

Den må ikke gætte. Navne, tal, datoer og fakta skal komme fra en kilde, den kan pege på, og kan den ikke finde noget, skriver den, at den ikke kan finde det.

Og den må ikke konkludere, at noget er i orden, før den ansvarlige har bekræftet det. Den skriver for eksempel ikke, at der ikke er sket et brud, fordi den ikke har set et.

Skrevne regler er ikke nok

Står der en regel i assistentens grundregler, og nogen beder den gøre det modsatte, måske i en hård tone, står den i et dilemma og må træffe et valg. Jeg har flere gange set en sprogmodel vælge den retning, der lyder mest overbevisende. Reglen står der stadig, men den bliver vejet i stedet for fulgt.

Derfor ligger de vigtigste regler i kode

De vigtigste regler er ikke kun skrevet ned. De håndhæves af små programmer uden om assistenten, som kontrollerer de handlinger, der kan sende noget ud eller ikke kan fortrydes, før de bliver udført. Forsøger assistenten at sende en mail, bliver den stoppet, uanset hvor god begrundelsen lød.

Den samme mekanisme advarer, når assistenten er på vej ind på en server, og den siger til, når nogen ændrer selve spærrerne, så en ændring ikke glider igennem ubemærket.

Assistenten kan ikke tale sig forbi en spærre. Den kan kun bede mig om at gøre det.

Hvad det betyder for jeres egne agenter

Skriv reglerne ned, for det tvinger jer til at beslutte, hvad agenten må. Men læg de regler, der ikke må brydes, et sted, hvor agenten ikke kan forhandle om dem.