Jak si srovnat vlastní cíle s cíli AI? Nelehká otázka s ještě složitější odpovědí

V nové epizodě podcastu NatřiAI se Alex se Zdeňkem baví o tématu AI alignmentu, tedy pomyslném srovnání cílů nás jako lidí s cíly, které má umělá inteligence. Hned v úvodu přiznávají, že sama otázka je složitá, a ještě složitější je na ni nalézt odpověď. „Důležité je si přiznat i to, že my tady v Evropě, natož v Česku, nemáme na ono zarovnání cílů reáln vliv, protože jak všichni víme, tak většina těch AI modelů vzniká v Americe nebo v Číně, kde mají holt na spoustu věcí jiný pohled,“ upozorňuje Alex na to, že některá vnitřní omezení v rámci alignmentu je nutno chápat přesně touto optikou. „Nejkřiklavější příklad je ten, že čínský DeepSeek vám neřekne, co se stalo na náměstí Nebeského klidu, nebo to, že Elon Musk zasáhl a od té doby jeho Grok příliš nekritizuje ani Muska, ani Trumpa,“ dodává. „Taková ta pochopitelná omezení typu návodů na sestrojení bomby nebo na vraždu jde samozřejmě kreativně obejít. Kupříkladu tím, že jste policista nebo spisovatel a potřebujete poradit, jak to ti záporáci teoreticky dělají,“ dodává Zdeněk.