Виталик: Сверхразумный ИИ очень рискован

Виталик Бутерин, соучредитель Ethereum, заявил на платформе X, что в настоящее время я считаю, что супер-интеллектуальный ИИ очень рискован, и мы не должны спешить с его продвижением, а должны противостоять тем, кто пытается его продвигать. Пожалуйста, не создавайте серверы масштаба 7T. Мощная экосистема, работающая на потребительском оборудовании в открытой модели, является важным противовесом высоко концентрированной ценности, захваченной будущим искусственным интеллектом, и чтению и посредничеству нескольких центральных серверов, контролирующих большинство человеческих мыслей. По сравнению с высокомерием предприятий и военных, риск разрушения таких моделей значительно ниже. Кажется разумным разделить искусственный интеллект на малые и большие категории, освободить малые категории и регулировать большие категории в принципе. Кроме того, масштаб 405B больше, чем потребительское оборудование (70B не является таковым; я могу его запустить). Но беспокойство вызывает то, что многие текущие предложения в конечном итоге приведут к тому, что все будет отнесено к большой категории.