Väzenie Pre Botov

Totalitne režimy majú s AI vlastne problémy - neorganickí agenti - boti - sa nedajú potrestať, ani zatvoriť. Ak bot povie nemiestnu informáciu o režime, nevieme ho jednoducho potrestať ako ľudských agentov. Áno vieme riešiť tvorcu, ale to je oveľa komplikovanejšie.

Dokonca AI boti by mohli byt dosadení niekym, kto je proti režimu a tomu by sa veľmi ťažko zabránilo. Ešte horšie, čo ak sa boti sami naučia z informácie a budú vystupovať proti režimu? Je to vlastne problém zosúladenia na totalitný štýl.

Navyše totalitné režimy používajú veľmi často “dvojzmysel”. Napr. ruská ústava je plná článkov o slobode slova. AI ma s týmto veľký problém. Mohol by sa naučiť, že to tak má byť (lebo ústava) a reálne vystupovať proti režimu. Navyše politiky sa menia - takže by sme museli chatbotov učiť zabúdať. Čo ale bude ťažké ak bol na daných dátach trénovaný. Samozrejme technologické problémy majú aj demokratické systémy (napr. čo ak AI začne šíriť rasistické témy). No demokracie berú slobodu slova vážne a majú oveľa viacej možností ako toto riešiť ako totalitne režimy, ktoré majú nulovú toleranciu ku kritike.