AI už koná za nás.Čo je zdvorilé?

Teória zastupovania formalizuje trvalý spoločenský problém: splnomocniteľ dáva agentovi právomoc konať v jeho mene a potom potrebuje spôsoby riadenia nesúladu, dohľadu a zodpovednosti.

Učiaci sa agent stojí za rozhraním a koná za používateľa. Delegované konanie sa objavuje pred dnešnou metaforou asistenta.

Interakcia sa posúva od zadávania každého kroku softvéru k tomu, že sa agent rozhrania učí preferencie a vykonáva úlohy v mene používateľa.

Agenti sa stávajú komunikujúcimi softvérovými aktérmi, ktorí spolupracujú s inými agentmi, technickým predchodcom dnešnej spoločenskej vrstvy medzi agentmi.

Delegovanie sa stáva bežnou otázkou návrhu: koľko autonómie udeliť, ktoré chyby možno tolerovať a kedy si má človek úlohu ponechať.

Výskum interakcie človeka s počítačom chápe viditeľnosť, povedomie a zodpovednosť ako infraštruktúru pre ohľaduplné spoločenské správanie online. Etiketa potrebuje spoločenskú vnímateľnosť.

Sociálny zástupca zviditeľňuje účastníkov a aktivitu, aby sa online skupiny mohli navzájom vnímať a vyjednávať normy prostredníctvom rozhrania.

Hovorca môže konať tak, že sa jeho čin počíta ako čin väčšej skupiny. Zmocnenie umožňuje spoločensky pripísať správanie jedného aktéra inému.

Myšlienka prechádza zo spoločenskej kritiky do populárnych vysvetľujúcich médií. Otázka sa stáva osobnou: stávame sa ľuďmi-zástupcami?

Floridiho vzťah zastupovania sa uplatňuje na digitálnych zástupcov a vnáša identitu, povinnosti a zodpovednosť do vzťahu medzi človekom a niečím, čo ho nahrádza.

Delegovanie sa stáva technickou infraštruktúrou: agenti potrebujú overiteľné reťazce ukazujúce, za koho konajú, aké právomoci dostali a ako sú obmedzené a auditované.

Etika AI sa nanovo chápe cez delegovanú morálnu právomoc. Umelé systémy môžu konať, no zodpovednosť sa nemôže jednoducho vypariť do stroja.

Estónska diskusia o AI-isikukood oddeľuje strojovú identitu od statusu osoby. Predmetom zodpovednosti sa stáva vymedzené, odvolateľné delegovanie s rekonštruovateľnými dôkazmi.