AGI一年之內就會到來人類只有5年了?
AI技術讓人類重新審視技術保守主義者的觀點,當一般人在AI大潮中難以保全自己時,思考科技發展的正當性似乎成了有價值的事。 OpenAI開年拋出Sora,讓全世界都倍感震撼。年前還在說大模型是茶葉蛋的周鴻禕,看到來勢洶洶的Sora,馬上改口:“AGI從10年的時間一下縮短到1年了。”
面對以天為單位不斷迭代的科技浪潮,科技大佬們不用擔心自己的生計,能繼續談笑風生。
而普通的打工人在AI巨浪撲來之時,如何能保住自己的飯碗,或至少在心態上保持放鬆,從而能找到屬於自己的出路。
英國衛報的一位撰稿人採訪了多位擔憂AI技術將為人類帶來極大負面影響的人士,從他們的擔憂中,也許能看到普通人在AI技術革命面前的無力感。
末日論AI研究人員的獨白
Yudkowsky,這位在加州柏克萊的非營利組織「機器智慧研究所」擔任首席研究員。
他說,如果真的逼他去估算一下,人類所剩的時間可能五年,或許兩年了,反正一定不超過十年。
他所指的「剩餘時間」其實就是直到人類遭遇由機器人引發的末日災難的時間。
就像《魔鬼終結者》和《駭客任務》那樣的末日場景。
Yudkowsky曾是人工智慧發展的先驅之一,他相信,這些人工智慧會迅速從現在的階段進化到擁有神一般能力的超級智能,其發展速度和野心是我們無法控製或遏制的。
Yudkowsky建議,我們不應該將人造大腦想像成一個盒子,而是試圖想像一個思維速度是我們千倍的外星文明,他們擁有無數的“盒子”,即使我們決定要摧毀,它們的數量也是無窮無盡的。
去年春天,Yudkowsky在《時代》雜誌上發表了一篇專欄,呼籲關閉那些培育和訓練人工智慧的電腦“農場”,試圖喚醒人們對這一問題的自滿態度。
他直言不諱地提出,未來人類要生存下來,可能需要對AI的資料中心進行空襲,甚至使用核武。才能保存自己。
不遠處,在倫敦南部森林茂密的錫登納姆,一場規模較小的反技術侵權運動正在醞釀中。
受到AI壓榨的藝術家
在紐約,作家Edward Ongweso Jr和藝術家Molly Crabapple也將自己定義為「愚人」。
他們是典型的AI保守主義,不是要放棄創新,而是要求審視每項創新的優點、社會公平性及其潛在的隱藏惡意。
對他來說,技術的存在,並不意味著我們不能質疑它。
人類應該保持懷疑的態度,尤其是當科技被應用於工作場所和其他地方,特別是用來安排社會生活時。
藝術家Crabapple大致同意此觀點。
對她來說,「技術保守主義者」是那些以批判的眼光看待技術,並拒絕接受那些旨在削弱他們能力、使他們變得低下或貧窮的技術方面的人。
科技不是為了所有人的利益而由天神創造的。科技的發展是由金錢和權力驅動的,一般來說,它的目標是服務那些有權勢的人,而不是普通人。
Yudkowsky這樣的技術悲觀主義者讓我們了解到面對的潛在的最大威脅,而新技術保守主義者則更關注實際問題,尤其是就業問題,因為這正是人工智慧技術給人們帶來的最大痛苦所在。
貨車司機的行車里程被詳細追踪,他們的休息時間也受到質疑。
辦公室工作人員可能會坐在攝影機前,攝影機會隨機拍照,以確保出席率和注意力。
這些可以被稱為工作場所的效率提升,也可以被視為粗暴的侮辱和虐待。
學者Jathan Sadowski是最早將我們對快速科技革命的焦慮與那些反對早期機器時代侵權行為的紡織工人的焦慮聯繫起來的人之一。
“技術保守主義建立在拒絕政治的基礎上,實際上意味著擁有權利和能力對直接影響你生活的事情說不,”
「這不應該被視為一種極端的立場,然而在一種為技術而技術的文化中,對技術說不是不可想像的」。
至少在2023年之前是這樣——在這一年,由OpenAI開發的ChatGPT、Google開發的Bard和其他用戶友好型人工智慧受到了全世界的歡迎。
同時,像DALL·E和Midjourney這樣的影像產生器,其模擬照片和圖形藝術也讓人驚嘆不已。
「他們不會用ChatGPT代替首相,也不會用Bard代替英格蘭銀行行長。」他們不會把克里斯多福-諾蘭換成DALL·E,也不會把馬丁-史柯西斯換成《侏羅紀公園》,但一般人會失業」。
技術保守主義者似乎獲得了更多的支持
AI技術的發展似乎使得完全拒絕某項技術的大規模使用看起來不是一件完全的壞事。
2023年1月,佛蒙特州一家畫廊牆上投射的人工智慧生成的風景畫遭到破壞,上面寫著「AI IS THEFT(人工智慧是偷竊)」。
創意專業人士開始感到被剝削。大量未經認可的、無償的人類作品從網路上被收集下來,並被聰明的人工智慧產生器重新利用。
2023年春,Crabapple組織了一封公開信,呼籲限制這種「卑鄙」的做法。還有更多的公開信,包括一封呼籲暫停開發新人工智慧六個月的公開信。
在洛杉磯,無處不在的環形攝影機門鈴的反對者們分發了「反環形」貼紙,貼在這些設備的鏡頭上。
一群自稱為「安全街道反抗軍」的舊金山人開始搶奪交通錐,並將其放置在該市自動駕駛汽車的引擎蓋上,以此快速混淆汽車的傳感器,使其無法工作。
作家Brian Merchant去年出版了「Blood in the Machine」一書,講述了技術保守主義的歷史。在歡呼的加州人面前,他上演了一場“技術保守法庭”,砸碎了人群認為多餘的設備。
參考資料:
https://www.theguardian.com/technology/2024/feb/17/humanitys-remaining-timeline-it-looks-more-like-five-years-than-50-meet-the-neo-luddites-warning- of-an-ai-apocalyps