Коментари на Тош към статията на Дарио от "Антропик" и бележките и мнението на Асен Киров:
https://www.facebook.com/groups/machine.learning.bg/posts/25779156911735976/?__cft__[0]=AZaj1LBXBgMkm17S5XcOoPjIOSyUkPTiztQRKZeJATzgtMADMsaGkYwI8kUvtzE4dQHWZ2V88_EdRmP0Enewks1cETGYl-H1lcxGtw5iCPUsi23onz4MgiVhCBTEZ60zHQKF8Hdohy9JTggweo3GC8RuquF9b4b4NoIO0VCLdCNxejuRoOHPr56wnmguZuBb2I1fL4C-JenmLjs7874m6v1f&__tn__=%2CO%2CP-R
Mашинно обучение България (BG Machine Learning)
Публична група
·
1,7 хил. членове
Публикацията на Асен Киров
"""Дарио Амодей - шефът на Антропик (Claude) - пише за AI апокалипсиса и как да го предотвратим.
Въображението му е концентрирано върху сценария, в който Антропик и другите AI компании успяват да създадат Изкуствен Супер-Интелект (той го нарича Powerful AI) "до 1-2 или повече години". "Държава от гении, живеещи в дейтацентър". Модели, които са по-умни от нобелови лауреати в съответната област, могат да използват инструменти като хората работещи дистанционно, могат да проектират и контролират роботи, могат проактивно да изпълняват задачи в продължение на седмици и милиони инстанции на такива модели могат да работят паралелно, независимо или в екип, стотици пъти по-бързо от хората.
Опасностите от това (•) и как да ги преборим (›):
• Автономността. Изкуственият Супер-Интелект ("държавата от гении") ще превземе света и ще пороби хората. Или поне ще опита.
› Предпазната мярка е първо, да се направят моделите interpretable - да може да се проследи как точно "мислят" на ниво невронна мрежа, така че от рано да се открият "психопатски тенденции". Второ, да им се даде "конституция" (
https://www.anthropic.com/constitution) - набор от ценности и принципи, които те винаги да взимат предвид и почти винаги да следват. Какво е да бъдеш "добър ИИ". Тези правила трябва да се закрепят в закон, приет по демократичен начин, иначе няма как да накараме всички AI компании да ги приемат (либертарианците вече подскачат). И трето - постоянен мониторинг и реакция когато модели почнат да правят примерно сексуални картинки с деца (като Grok).
(...)Аз бих добавил, че има и друг вариант - да ударят греда с изкуствения супер-интелект. Тогава защо ги инветирахме трилиардите? AI балонът ще се спука и ще повлече голяма част от икономиката, но това може да е по-добрият вариант. Освен за американците. Но за AI балона - друг път.
При всички случаи СИЧКИ ША ОМРЕМ! """"
--- КРАЙ НА ЦИТАТА от АСЕН ---
Отговори на Тош:
Todor Arnaudov
И със, и без ИИ "ще умрете" (като индивиди), ако не постигнем космистката цел: Вечен живот, но мислещите машини в каквато и да е форма са продължение на човека, ако те оцелеят: "Човекът" ще продължи. https://eim.twenkid.com/old/eimworld13/izint_13.html
Освен това *и сега* човеците и като материализирани същества са съчетание от представянията и действието и на машините. Виж в споменатите по-долу книги и статии и напр. в коментара ми към Тим Тайлър за сливането с машините. Ние сме си "слети", без машините - технологиите - повечето хора нямаше изобщо да са се родили, други щяха да са умрели като бебета или при раждането и щяха да са на умственото ниво и с представите на маймуни.
Дарио е един от опортюнистите късни "псевдопророци". Неговият нов термин "Poweful AI" е забавен и в аналогията със споменатата от мен фраза, дадена и като заглавие в една скорошна епистоларна статия: "Power Overrides Intelligence", за което говорех и през 2012 г. в едно писмо до Оксфордския институт за бъдещето на човечеството "Wisdom is powerless against the physical force." Веднъж като говорех за тази идея, зрители на "Игри на тронове" ме насочиха към откъс, където е даден този урок. Някакъв се опитва да шантажира царица, че "знанието е сила" - онази веднага заповядва да го убият - опират ножа в гърлото му. И става ясно каква "сила" е знанието - НИКАКВА, ако нямаш власт (или "Средства за производство" в икономиката).
Властта е по-силна от разума, Властта взима решения и действа (или Волята в термините на Шопенхауер), [а] не умът. За унищожение не е нужен висш разум, а висша власт, минимален ум с власт/енергия и желание разрушава всичко, безкраен ум с нищожна или никаква власт не може да промени нищо. Спирате ИИ и някакъв идиот изстрелва ядрени ракети или се появява нов по-голям и твърд "К**вид", възпламеняват война "за демокрация, свобода, човешки права, да направим еди-кой си отново велик" и т.н.
Относно разпределението, безработните и т.н. - почти никой от тези, които познавам, освен най-просветените, не могат дори да се СЕТЯТ, да осъзнаят, че трудова структура, отношение и т.н. са състояние на робство и за него не са виновни машините и автоматизацията или ИИ - те нали "нямат съзнание", не са правни личности и т.н. "Вина" в правен и етичен смисъл носят човеците, "вие сте си винони". Повечето човеци са фактически роби, в робска зависимост, затова ако станете "ненужни" (т.е. не се придобива печалба от вас за господарите ви), може да ви изхвърлят и сте заплашени, но не виждате *господарите* си като причина или [сте приели и съгласни,] че "така трябва", "който не работи - не трябва да яде".
Защо трябва да е така не само в "икономика на изобилието" (от десетилетия или век има такава, зависи как се мери и каква консумация се изисква)? Така трябва, защото така е наложила властта, която надделява (абстрактната, не "тайното правителство").
Властта не е само личностна, а е разпределена в състоянието на Вселената - виж Теория на Разума и Вселената като цяло, а от SIGI-2025 напр. "Вселена и Разум 6" (Universe and Mind 6), "Нужни ли са смъртни изчислителни системи за създаване на универсални мислещи машини?", много бележки в приложение-том "Листове по всички" и в Основния том.
* МДР, безусловният базов доход е тема от 1960-те. (виж "В лабиринта на пророчествата", спомената в томове "Фантастика. Футурология. Кибернетика. Развитие на човека"* и "Първата съвременна стратегия за развитие чрез изъкуствен интелект е публикувана от 18-годишен българин през 2003 г. и повторена и изпълнена от целия свят 15-20 години по-късно: Българските пророчества: Как бих инвестирал един милион с най-голяма полза за развитието на страната?" - виж и първата глава от "Фантастика. Футурология...", обобщенията на Переслегин и мои, че съвременните "съгласуватели на ИИ" преоткриват и повтарят теми, които вече са разгледани до НАЧАЛОТО НА 1960-те. Такъв е и Франсоа Шоле в някои от идеите му напр., виж в том "Листове по всичко" и също споменат в бележките с литерату към "Първата стратегия" и съвпаденията с Бонгард.
Връзки към материалите:
* Целогодишна виртуална конференция "Мислещи машини 2025" (Self Improving General Intelligence 2025): https://twenkid.com/agi/
* Писмо до Оксфордския институт: Philosophical and Interdisciplinary Discussion on General Intelligence, AGI and Superintelligence Safety and Human Moral | Cognitive Origins of the Concepts of Human Soul and its Immortality | Free Will and How it Originates Cognitively | Animate Being and Soul and the Cognitive Reason for the Believe that "Thinking Machines can't have a Soul and Consciousness" | Technology Making us more Humane | The Egoism of Humanity | And more
https://artificial-mind.blogspot.com/2012/02/philosophical-and-interdisciplinary.html
EIM.TWENKID.COM
eim.twenkid.com
eim.twenkid.com
4 м
==========
Todor Arnaudov
За "държавата от гении" на Дарио - сравни с откъс от Първата стратегия за развитие чрез ИИ, публикувана от 18-годишен българин (от мен) и повторена и изпълнена от целия свят 15-20 години по-късно. Един от "повторителите" (или "плагиати") е и известен международен институт в България, с почти буквални повторения - и никакво споменаване на оригинала (виж повече в споменатата книга).
"Как бих инвестирал един милион с най-голяма полза за развитие на страната?", 5.2003 г. https://twenkid.com/agi/download.php?file=proekt.htm
или Интернет архив: https://www.oocities.org/todprog/ese/proekt.htm
" Според мен мощен бъдещ източник на приходи, за чието достигане 1 милион евро е отлично начало, защото ключът за осъществяването му е в човешкия умствен ресурс, е Мислещата машина (ММ).
Машината с равностоен или надминаващ човешкия разум, би се превърнала в невиждан двигател на научно-изследователската дейност и културата в държавата, която първа успее да я създаде.
Изразителен пример за потенциала на ММ е огромният информационен поток през паметта й, който може да бъде управляван до двоичен знак. Човекът е способен, за секунда, да извежда съзнателна информация, която се описва с няколко десетки бита. Това се отнася за говор, пеене, набор на текст, преместване на показалеца на мишка, рисуване, изпълнение на музикален инструмент. През същата секунда обикновен персонален компютър прехвърля, само през централния си процесор, милиард пъти повече информация, над която машината има пълна власт. Ако такава мощна "информационна струя" бъде управлявана от разум, "смятащата железария" ще се превърне в изумително схватлив ученик,
който бързо ще стане продуктивен творец във всякакви изкуства и неуморен научен работник. Свързана с роботизирани тела, в чието проектиране, всъщност, тя също би могла да участва, ММ ще може да извършва и физически дейности, да даде "приятелско рамо" на човека и промишлеността в прекия смисъл.
Тъй като личността на ММ ще се записва като чиста информация - на компютърни носители, които могат да бъдат презаписвани и съхранявани теоретически вечно, за разлика от човешкия носител на личността - мозъка, обучена до определена степен машина би могла да бъде размножавана просто като се включи копие на личността й в ново "тяло", където то да започне да се развива самостоятелно и да научи само необходимото за новата дейност. Целият разумен опит, притежаван от някоя предишна ММ, ще може да бъде лесно пренасян на друга, която по рождение ще има личността на своята "майка".
Благодарение на това, че разумът на ММ ще може да има пряка високоскоростна връзка с изчислителна машина - процесори от тялото на самата ММ, или друга машина, към която ММ е електронно свързана като потребител - компютърното проектиране, моделиране и, казано общо, творчество, връчено на Машината, ще се извършва много по-бързо, отколкото го
прави човекът. Всички входни и изходни устройства ще бъдат част от "въображението" на ММ, следователно много по-бързи от засега задължителните движещи се, равнозначно на инертни и бавни устройства за въвеждане на информация, с които си служи човекът.
Машината ще може да бъде, разбира се, и програмист. Ако й се даде възможност да изследва подробно своето устройство, веднъж създадена, тя би могла да съдейства за подобряването му до достигане на границите, предоставени от конкретната "железария", на която е вселена компютърната й "душа". ММ може да стигне и по-далеч - "душата" би могла да усъвършенства "тялото" - "електронната плът", до достигане на физическите граници. В тази
роля Машината ще работи като електронен инженер, търсещ нови схемни решения; физик, усъвършенстващ настоящите технологии за производство на интегрални схеми и нанотехнологиите или откривател на все още неизвестни начини за построяване на машини. (...)"
TWENKID.COM
twenkid.com
=====
Не неочаквано - никакъв отговор или реакция, хахаха.
Виж началотото на романа "Ада" от "Пророчествата".
СВЕЩЕНИЯТ СМЕТАЧ: мислещи машини, творчество и развитие на човека
