美國SEC主席評AI:工具單一化或在未來引發金融危機
美國證券交易委員會(SEC)主席加里·根斯勒(Gary Gensler)週三警告稱,太多的券商和基金經理過度使用同類人工智慧(AI)系統,可能會為未來的動盪埋下伏筆。他在接受採訪時表示,如果市場參與者“都依賴同樣的模型、同樣的演算法、同樣的數據”,未來可能會發生金融危機。
他此前就曾警告過,金融公司和投資者都使用相同的AI工具是存在風險的,這可能會在市場上產生“羊群效應”,當群體或機構都做同樣的事情或依賴同樣的工具,而不是獨立行動時,就會出現這種情況。
「如果你讓大部分市場依賴一個數據集,那麼你可能會出現金融不穩定……羊群效應可能會讓我們無意中掉下懸崖。」他當時說。
根斯勒是個電影迷,他在最新訪談中把這種風險比喻為電影《她》(Her)中出現的人工智慧機器人。在這部電影中,史嘉蕾喬韓森(Scarlett Johansson)飾演的人工智慧系統OS1「化身」薩曼莎的離去,令其數千名戀人心碎。
根斯勒說,“我不希望這種情況發生在金融領域。”
他說,這項技術確實有創新的希望,也有更多進入金融市場的機會,但仍需要確保演算法的多樣性,並防範詐欺。
今年7月,他也曾表示,與歷史上的許多變革時期一樣,AI也會對社會整體帶來宏觀挑戰。其中一個或少數幾個AI平台可能成為市場主導的可能性,帶來了潛在的金融穩定風險。
「由於單一市場參與者更有可能從基礎模型中得到相同的訊號,這有可能促進群體行為,並增加了金融的脆弱性。」他說。
美國證監會在2023年提出了一項提案,要求經紀商和投資顧問在使用人工智慧工具時減少利益衝突,因為人工智慧工具可能把他們的利益置於客戶之上。根斯勒先前曾表示,在首輪評估後,SEC的工作人員仍在努力重寫該規則。
根斯勒先前表示,SEC對於技術持有中立的態度──關注的是結果,而不是工具本身。 SEC將在職權範圍內,致力於防止前面所討論的微觀和宏觀挑戰,也有可能因此修改《證券法》。
不過整體而言,他相信人工智慧是這個時代最具變革性的技術,可以與網路和汽車大規模生產相提並論。