kontrolleraagera
Kontrolleraagera är ett begrepp som används i diskussioner om styrningen av autonoma system för att beskriva processen att övervaka och begränsa agenters handlingar för att säkerställa efterlevnad av säkerhets-, rättsliga och etiska normer. Etymologiskt är termen en sammansättning av kontrollera och agera; i svenska sammanhang används den för att beteckna en familj av metoder och principer som syftar till att styra beteendet hos autonoma agenter i realtid.
Definition: Kontrolleraagera avser metoder och policies för att övervaka, utvärdera och justera beteendet hos autonoma agenter,
Principer: säkerhet, förutsägbarhet, robusthet, transparens och gransknbarhet. Metoder: körningstidsövervakning, policybaserade begränsningar, säker designprinciper, containment eller isolering,
Tillämpningar: industriell automation, autonoma fordon, servicerobotar, medicintekniska enheter och kritisk infrastruktur. Begreppet diskuteras också inom AI-säkerhet
Utmaningar: komplexitet i verkliga miljöer, avvägningar mellan autonomi och kontroll, fördröjningar i verkställande, skalbarhet, integritetsfrågor samt