Хочу офіційно заявити: я ніколи не дивився Термінатора!
Це справді так)
Хоча дуже багато коментарів під моїми відео про ШІ згадують цю класику.
Я знаю приблизний сюжет. Те що показано в цьому фільмі — дуже наївне уявлення, і таке наврядчи відбудеться в реальності.
Тим не менш, що справді відповідає дійсності — загроза ШІ, особливого того, хто має в своєму розпорядженні розвинених роботів, а тим більше зброю.
ШІ наврядчи буде злим або ненавидіти людей. Але він скоріше за все і не буде нас любити або співчувати нам.
Тому якщо для оптимізації його цілей (які ми в нього вкладемо) він може знищити нас — він зробить це. Якщо ми не зможемо побудувати таку архітектуру моделі та створити такі правила його дій, які забезпечать нам безпеку — це станеться.
Як я вже багато разів згадував, це називається alignment problem (проблема вирівнювання).
Markel Kori
Хочу офіційно заявити: я ніколи не дивився Термінатора!
Це справді так)
Хоча дуже багато коментарів під моїми відео про ШІ згадують цю класику.
Я знаю приблизний сюжет. Те що показано в цьому фільмі — дуже наївне уявлення, і таке наврядчи відбудеться в реальності.
Тим не менш, що справді відповідає дійсності — загроза ШІ, особливого того, хто має в своєму розпорядженні розвинених роботів, а тим більше зброю.
ШІ наврядчи буде злим або ненавидіти людей. Але він скоріше за все і не буде нас любити або співчувати нам.
Тому якщо для оптимізації його цілей (які ми в нього вкладемо) він може знищити нас — він зробить це. Якщо ми не зможемо побудувати таку архітектуру моделі та створити такі правила його дій, які забезпечать нам безпеку — це станеться.
Як я вже багато разів згадував, це називається alignment problem (проблема вирівнювання).
Дуже раджу почитати про це самостійно!
А хто ще не дивився моє нове відео про ШІ, воно тут: https://youtu.be/vna9iYWebxc?si=Dl3oE...
4 months ago (edited) | [YT] | 38