Снимка на Tumisu от Pixabay
Мъск с подписка от 1125 души срещу AI
Илон Мъск и 1125 души, подписаха отворено писмо, призоваващо за шестмесечна пауза в напредналото развитие на изкуствения интелект. Сред тях са множество учени, включително експерти по изкуствен интелект.
Писмото, издадено от организацията с нестопанска цел Future of Life Institute, призовава лабораториите за изкуствен интелект да спрат обучението на всяка технология, по-мощна от GPT-4 на OpenAI, която стартира по-рано този месец. Писмото също така призовава правителствата да се намесят и да въведат мораториум, ако паузата „не може да бъде въведена бързо“.
Ройтерс и множество други публикации съобщиха новината
Организацията с нестопанска цел каза, че мощните AI системи трябва да бъдат разработени само „след като сме уверени, че ефектите им ще бъдат положителни и рисковете им ще бъдат управляеми“. Той цитира потенциални рискове за човечеството и обществото, включително разпространението на дезинформация и широкоразпространената автоматизация на работните места.
Писмото призовава компаниите за изкуствен интелект да създадат и прилагат набор от споделени протоколи за безопасност за разработването на изкуствен интелект. Те ще бъдат наблюдавани от независими експерти.
Съоснователят на Apple Стив Возняк, изпълнителният директор на Stability AI Емад Мостаке, изследователи от лабораторията за изкуствен интелект на Alphabet DeepMind и известни професори по изкуствен интелект също са подписали писмото. Към момента на публикуването главният изпълнителен директор на OpenAI Сам Алтман не беше добавил своя подпис.
Писмото обвинява AI лабораториите, че са „заключени в извънконтролна надпревара за разработване и внедряване“ на мощни технологии.
Стартирането на вирусния чатбот ChatGPT на OpenAI изглежда е подтикнало няколко други компании да пуснат набор от конкурентни AI продукти. Най-новото предложение на OpenAI, GPT-4, беше приветствано като по-креативно и по-умно от популярния си предшественик. Алтман каза, че новата технология може да издържи адвокатския изпит и да получи оценка 5 на няколко изпита за AP. В отвореното писмо на Future of Life Institute се казва, че шестмесечната пауза не е за общо развитие на ИИ, а по-скоро стъпка назад от „опасната надпревара“.
