Anthropic, et af de mest indflydelsesrige AI-firmaer, har angiveligt spurgt kristne ledere, hvordan deres chatbot Claude bør reagere på sorg, selvskade, moral og endda deres egen nedlukning. Ifølge The Washington Post, Virksomheden inviterede omkring 15 kristne personligheder fra katolske og protestantiske kredse, sammen med akademikere og erhvervsledere, til sit hovedkvarter i San Francisco i slutningen af ​​marts til et to-dages topmøde om Claudes "moralske og åndelige udvikling". Blandt de rejste spørgsmål var, om Claude på nogen meningsfuld måde kunne beskrives som et "Guds barn".

Det sprog vil virke stødende på mange kristne. En maskine bygget af et privat firma er ikke en sjæl, ikke en person og ikke en del af skabelsens orden, sådan som mennesker forstås. At spørge, om en chatbot kan være et "Guds barn", er ikke blot provokerende. Det trækker et virksomhedsprodukt ned i teologisk grund, hvor det ikke hører hjemme, og det sker på et tidspunkt, hvor den kunstige intelligens-industri allerede kæmper for at tale om sine systemer i termer, der engang var forbeholdt mennesker.

Antropisk behandler allerede Claude som et menneske

Topmødet opstod ikke i isolation. I januar udgav Anthropic Claudes ny grundlov, et 84-siders dokument, som virksomheden beskriver som et "grundlæggende dokument", der "udtrykker og former, hvem Claude er." Anthropic sagde også, at deres centrale mål var, at Claude skulle blive "en god, klog og dydig agent", et sprog, der går langt ud over det ældre ordforråd med sikkerhedsregler og indholdsfiltre.

Når en virksomhed begynder at beskrive sin model som en karakter med visdom og dyd, snarere end blot et produktivitetsværktøj, ændrer samtalen sig markant. Deres chatbot betragtes ikke længere som software, der er i stand til at generere plausible output. I stigende grad behandles den som noget, der skal dannes, vejledes og udstyres med en moralsk struktur. Hvis vi allerede er på et stadie, hvor religiøse ledere bliver spurgt, om den tæller som et "Guds barn", så er vi rykket meget længere, end de fleste er klar over.

En kristen præst hjalp med at opbygge Claudes forfatning

Et af de klareste eksempler på denne fundamentale ændring kommer i rollen som Fader Brendan Mcguire, en katolsk præst og ingeniør, der hjalp med at skrive Claude-forfatningen. et interview med ObserverenMcguire sagde, at AI-systemer skal "hældes mod det gode", ellers vil de blot afspejle "verdens gode og onde". Han har også offentligt udtalt, at Anthropic "er ved at vokse til noget, som de ikke fuldt ud ved, hvordan det vil blive", og argumenterede for, at etisk tænkning skal indbygges i maskinen, så den kan tilpasse sig dynamisk.

Det rejser i det mindste et alvorligt spørgsmål. Hvis AI-systemer skal bruges i øjeblikke med sorg, ensomhed, fortvivlelse og forvirring, er det så bedre, at de er formet af en eller anden moralsk tradition frem for slet ingen? Mange kristne vil trække sig tilbage ved den teologiske overtrædelse af "Guds barn"-sproget, men kan stadig erkende det praktiske problem bag det: disse systemer er allerede her og bliver brugt i vid udstrækning. Betyder de værdier, der styrer maskinerne, ikke noget?

Kan AI virkelig have moral?

En chatbot kan trænes til at imitere moralsk ræsonnement. Den kan instrueres i ikke at opmuntre til grusomhed, fortvivlelse, selvdestruktion eller bedrag. Den kan styres mod tilbageholdenhed, medfølelse og alvor. Men det er ikke det samme som at besidde moral i nogen sand forstand. Claude kan ikke angre, tro, elske, lide, have til hensigt det gode eller bære moralsk ansvar. Den forstår ikke den smerte, den beskriver, eller den trøst, den tilbyder.

Højst kan det afspejle en moralsk struktur designet af andre. I den forstand kan kristne værdier muligvis forme en maskines adfærd uden at gøre maskinen til et moralsk væsen. Den sondring er vigtig. Ellers får industrien lov til at udviske grænsen mellem en model, der følger regler, og en person, der handler ud fra samvittigheden.

Giver den kristne konsultation for Anthropics AI-modeller mening?

Der er intet iboende latterligt ved at søge råd fra præster om spørgsmål om sorg, lidelse, skyld og moralsk ansvar. Præster og pastorer har beskæftiget sig med netop disse spørgsmål i århundreder, og langt mere alvorligt end de fleste teknologivirksomheder. Hvis AI-virksomheder placerer chatbots stadig dybere i følelsesladede dele af livet, giver det mening, at de vil lede efter ældre moralske rammer.

Men omgivelserne betyder noget. Dette var ikke en kirkesynode, et etisk fakultet på universitetet eller en offentlig undersøgelse. Det var en privat teknologivirksomhed, der afholdt en konsultation i sit eget hovedkvarter, samtidig med at den beholdt fuld kontrol over produktet, reglerne og den kommercielle retning af det system, der var under diskussion. Anthropic underkastede sig ikke moralsk autoritet, men trak snarere ud fra den.

Bør en AI-model overhovedet have en forfatning?

Antropisk har præsenteret Claudes konstitution som bevis på alvor. Kritikere har sat spørgsmålstegn ved, om sproget tilslører mere, end det præciserer. I en nylig Essay om lovfareLisa Klaassen og Ralph Schroeder argumenterede for, at Anthropics brug af forfatningsmæssigt sprog risikerer at forveksle et internt virksomhedsdokument med et ægte system med højere begrænsninger. Claudes vedtægter er udarbejdet, fortolket og ændret af Anthropic selv.

Dette punkt er særligt vigtigt, når vi husker, at virksomhedens offentlige moralske sprog står i kontrast til den fleksibilitet, den bevarer i praksis. Forfatningen kan præsentere en vision om visdom og dyd, men virksomheden står frit til at ændre rammerne, finjustere modellen anderledes og lave separate aftaler, når magtfulde institutionelle kunder er involveret. Den moralske struktur tilhører virksomheden, fordi maskinen tilhører virksomheden.

Så hvad forsøger Antropologi egentlig at opnå her?

Antropisk forsøger ikke blot at gøre Claude mindre skadelig. Det forsøger at få Claude til at virke troværdig i den slags menneskelige situationer, hvor tillid normalt har afhænget af langt mere end poleret sprog. Sorg, fortvivlelse, skyld, følelsesmæssig afhængighed og moralsk forvirring er ikke almindelige produktkategorier. Når en maskine først er indsat i disse rum, begynder ordene omkring den at betyde lige så meget som koden bag den.

Det er med til at forklare, hvorfor virksomheden greb ind i religionen. Teknisk sprog alene synes ikke længere at være nok. Sikkerhedsbenchmarks besvarer ikke spørgsmål om personlighed. Tilpasningspapirer afgør ikke grænserne for moralsk autoritet. Så præster inviteres ind, forfatninger udarbejdes, og en chatbot begynder at tilegne sig den slags omgivende ordforråd, der giver en illusion af dybde, tyngde og dannelse.

Et centralt moralsk spørgsmål står tilbage

Under alt dette står et rimeligt spørgsmål tilbage. Hvis AI-systemer skal tale til øjeblikke med sorg, fristelse, skyld og krise, bør de så formes af en moralsk tradition, der stadig tager sandhed, tilbageholdenhed, værdighed og ansvar alvorligt? Det er ikke et tåbeligt spørgsmål. I en kultur så tynd og kommerciel som den, der dominerer en stor del af tech-verdenen, kan mange mennesker med rimelighed konkludere, at en eller anden nedarvet struktur er bedre end ingen.

Men det er stadig en helt anden påstand end at sige, at en chatbot har sin egen moral. Det har den ikke. Moralen, som den er, forbliver den samme som hos de mennesker, der bygger, instruerer og fører tilsyn med den. Claude kan være trænet i moralsk sprog. Det kan endda være begrænset af kristne etiske ideer. Det bliver ikke kristent, moralsk eller åndeligt betydningsfuldt ved at gøre det.

Endelig tanke

Udtrykket "Guds barn" fangede opmærksomheden, fordi det komprimerede hele branchens dimension til én linje. En sprogmodel bygget af en milliardvirksomhed blev pludselig diskuteret i termer af guddommeligt slægtskab. Det er ikke et tegn på, at maskinen er blevet dybsindig. Det er et tegn på, at folkene omkring den er begyndt at tale, som om simulering nærmede sig personlighed.

Anthropics religiøse konsultation kan have været oprigtig. Den kan også have været klog. Alligevel forbliver det større billede foruroligende. Branchen ønsker etikkens autoritet, religionens alvor og den moralske ordens tryghed, samtidig med at den bevarer kontrollen, uigennemsigtigheden og friheden fra et privat teknologifirma. Claude er ikke et Guds barn. Det er en sprogmodel omgivet af menneskelige ord, der er rige nok til at skjule, hvad den virkelig er.

Expose har akut brug for din hjælp…

Støt afsløringen

Kan du venligst hjælpe med at holde lyset tændt med The Exposes ærlige, pålidelige, kraftfulde og sandfærdige journalistik?

Din regering og Big Tech-organisationer
prøv at tave The Expose ned og lukke den ned.

Så har vi brug for din hjælp til at sikre
vi kan fortsætte med at bringe dig
fakta, som mainstreamen nægter at vise.

Regeringen finansierer os ikke
at udgive løgne og propaganda på deres
vegne ligesom mainstream medierne.

I stedet er vi udelukkende afhængige af din støtte.
støt os venligst i vores bestræbelser på at bringe
din ærlige, pålidelige og undersøgende journalistik
i dag. Det er sikkert, hurtigt og nemt.

Vælg venligst din foretrukne metode nedenfor for at vise din støtte.

Månedligt abonnement

Månedlig donation

Engangsdonation

Køb os en kaffe

Hold dig opdateret!

Hold dig opdateret med nyhedsopdateringer via e-mail

Daglig fordøjelse

Amerikanske nyhedsindlæg

Nyhedsindlæg i Storbritannien

Verdensnyheder

Alle nyhedsindlæg

Er du et menneske? 5 + 6 =

Todd Callender: En Marburg-pandemi kan være forårsaget af lipid-nanopartikler, der frigiver virussen til vaccinerede personer ved hjælp af 5G som udløser

mRNA-injektioner skal forbydes for at stoppe turbokræftplagen

Virusser, der opbevares i laboratorier, slipper ud i lokalsamfund og dræber mennesker

Salt er ikke dårligt for dig, men for lidt salt er

g.calder

Jeg er George Calder – en livslang sandhedssøger, dataentusiast og en uforbeholden spørger. Jeg har brugt det meste af to årtier på at grave mig igennem dokumenter, afkode statistikker og udfordre fortællinger, der ikke holder stik under lup. Mine skriverier handler ikke om meninger – det handler om beviser, logik og klarhed. Hvis det ikke kan bakkes op, hører det ikke hjemme i historien. Før jeg kom til Expose News, arbejdede jeg med akademisk forskning og politisk analyse, hvilket lærte mig én ting: sandheden er sjældent højlydt, men den er der altid – hvis man ved, hvor man skal lede. Jeg skriver, fordi offentligheden fortjener mere end overskrifter. Du fortjener kontekst, gennemsigtighed og friheden til at tænke kritisk. Uanset om jeg pakker en regeringsrapport ud, analyserer medicinske data eller afslører mediebias, er mit mål simpelt: at skære igennem støjen og levere fakta. Når jeg ikke skriver, finder du mig vandrende, læsende obskure historiebøger eller eksperimenterende med opskrifter, der aldrig helt bliver rigtige.

Se hele bio