ОТКРИТИЕ КОЕ МУ СЕ ЗАКАНУВА НА ЧОВЕШТВОТО: Неколку дена пред смената на Алтман добиле сериозно предупредување!
Ројтерс утрово ексклузивно објави дека одборот на директори на OpenAI добил многу сериозно предупредување неколку дена пред да биде отпуштен извршниот директор Сем Алтман. Да потсетиме, шефот на менаџментот на OpenAI, клучната компанија за развој на вештачка интелигенција зад ChatGPT, ненадејно беше разрешен на четири дена, а вчера беше објавено дека се враќа на истата функција.
Ројтерс утринава објави дека неколку истражувачи на OpenAI напишале писмо до бордот на директори на компанијата во кое предупредуваат за моќен пробив во вештачката интелигенција (АИ) за кој велат дека може да го загрози човештвото, изјавија за Reuters две лица запознаени со ова прашање.
Два клучни настани во пресрет на смената
Тоа претходно непријавено писмо и развојот на алгоритам за вештачка интелигенција беа клучни настани што доведоа до соборувањето на Алтман, кој многумина го сметаат за татко на генеративната вештачка интелигенција, велат два од изворите. Пред неговото враќање на Open AI вчера, повеќе од 700 вработени се заканија дека ќе дадат отказ и ќе му се придружат на основачот на Мајкрософт во знак на солидарност со нивниот отпуштен лидер.
Изворите на Ројтерс го опишаа писмото како еден фактор во подолгиот список на поплаки од одборот што доведоа до смена на Алтман, што вклучуваше загриженост за комерцијализирање на развојот на вештачката интелигенција пред да бидат целосно разбрани последиците. Ројтерс не можеше да прегледа копија од писмото, а персоналот кој го напиша писмото не одговори на барањата за коментар.
Кога беше контактиран од Ројтерс, OpenAI, кој одби да го коментира писмото, потврди во интерен меморандум за персоналот на проектот, наречен Q*, и писмото до раководството пред соборувањето на Алтман, рече еден од изворите. Портпаролот на OpenAI рече дека пораката, испратена од долгогодишната директорка Мира Мурати, го предупредила персоналот за одредени медиумски стории, но не ја коментирала нивната точност.
Некои од OpenAI веруваат дека проектот Q* може да биде знак за значителен напредок во потрагата по она што е познато како вештачка општа интелигенција (AGI), изјави еден извор за Ројтерс. OpenAI го дефинира AGI како автономни системи кои ги надминуваат луѓето во повеќето економски вредни задачи.
Со помош на големи компјутерски ресурси, новиот модел можеше да реши одредени математички проблеми, изјави лицето кое сакаше да остане анонимно бидејќи лицето не беше овластено да зборува за компанијата. Иако математиката се изведуваше само на ниво на ученици од основно училиште, решавањето на ваквите тестови ги направи истражувачите многу оптимисти за идниот успех на Q*, рече изворот.
Што може да генерира ВИ, а што АГИ?
Истражувачите веруваат дека математиката е граница на генеративниот развој на вештачката интелигенција. Во моментов, генеративната вештачка интелигенција е добра во пишувањето и преведувањето јазици со статистички предвидување на следниот збор, а одговорите на истото прашање може многу да варираат. Но, способноста за решавање математички задачи, каде што има само еден точен одговор, имплицира дека вештачката интелигенција би имала поголеми способности за расудување слични на човечката интелигенција. Ова, веруваат истражувачите на вештачката интелигенција, може да се примени и на нови научни истражувања.
За разлика од калкулаторот кој може да реши ограничен број операции, AGI може да генерализира, учи и разбира.
Во нивното писмо до одборот, истражувачите ја нагласија моќта и потенцијалната опасност од вештачката интелигенција, велат изворите без да ги прецизираат точните безбедносни грижи наведени во писмото. Помеѓу информатичарите долго се расправаше за опасноста што ја претставуваат високоинтелигентните машини доколку, на пример, одлучат дека уништувањето на човештвото е во нивен интерес.
Истражувачите, исто така, ја истакнаа работата на тимот на проектот „AI Scientist“, чие постоење е потврдено од повеќе извори. Групата, формирана од комбинација на поранешни тимови наречени „Code Gen“ и „Math Gen“, истражуваше како да ги оптимизира постоечките модели на вештачка интелигенција за да го подобри своето размислување и на крајот да направи научна работа, рече еден од луѓето.
Алтман ги предводеше напорите да го направи ChatGPT една од најбрзо растечките софтверски апликации во историјата и ги привлече инвестициите и компјутерските ресурси на Microsoft потребни за да се доближи до AGI.
Освен што најави мноштво нови алатки на демонстрациите овој месец, Алтман минатата недела на самитот на светските лидери во Сан Франциско објави дека верува дека на хоризонтот се големи откритија.
„Четири пати во историјата на OpenAI, последниот пат беше во последните неколку недели, бев во собата, кога некако го турнавме превезот на незнаењето назад и границата на откритието напред. Да се направи нешто такво е професионално и чест на животот“, рече тој на самитот Азиско-пацифичка економска соработка.
Еден ден подоцна, одборот го отпушти Алтман. Вчера повторно го вработи.
Извор: Ројтерс
Фото: ЕПА
