每份IPO S-1 招股說明書中都有一節列出了各種風險因素，說明為什麼股票可能不值得購買。 其中許多都是模板式的警告、對財務表現的警告或戰爭和自然行為。 但有些警告對公司來說更為具體：本週一，雲端服務新創公司ServiceTitan 向美國證券交易委員會（SEC）提交了公開IPO 文件，我們可能正在見證一個新的模板警告的誕生：有助於業務成長的大型語言模型（LLM）也可能導致損害。

ServiceTitan 編列了長達1150 字的風險因素，說明其對人工智慧（特別是生成式人工智慧）的使用可能會對其業務產生不利影響。 它警告說，LLM 的幻覺行為可能會產生”不準確”的訊息，並從事”歧視性”行為；它的LLM 可能會侵犯他人的版權或智慧財產權；使用LLM 意味著將更多數據暴露在潛在的黑客攻擊和傷害之下。 如果無法獲得足夠的數據，它可能無法繼續提供人工智慧產品或建立新產品。 此外，該公司還警告說，其員工或承包商可能會錯誤地將客戶的私人資料與第三方系統共享，從而導致安全漏洞，或利用這些資料來訓練他們的模型；

ServiceTitan 警告說，它對人工智慧的使用有朝一日可能會觸犯社會和道德問題。 或者說，未來的法規可能會讓它付出代價。

ServiceTitan 也擔心，它可能無法聘請到產品所需的人工智慧專家，即使能聘請到，人才的價格也會很高。 ServiceTitan 警告說，它的人工智慧產品依賴它無法控制的第三方服務，並特別提到了微軟和OpenAI。 因此，如果這些服務不可用或出現問題，也是一種風險。

這些警告很有意思，因為ServiceTitan 所處的產業正是GenAI（特別是LLM 驅動的人工智慧代理）有望佔據主導地位的產業。 ServiceTitan 為現場服務業的企業（主要是小型企業，如建築承包商、暖通空調專業人員、園藝師等）提供軟體。 其軟體具有行銷、客戶關係管理、客戶支援和會計等功能。 (ServiceTitan拒絕進一步置評）。

目前，人工智慧代理商正在向銷售、行銷和客戶關係管理等領域狂飆突進，客戶關係管理市場之王、Salesforce 執行長馬克-貝尼奧夫（Marc Benioff）表示，光是他的公司就可能在一年內擁有十億人工智慧代理商在Salesforce 的客戶公司工作。

至少從2023 年起，ServiceTitan 就開始提供人工智慧驅動的服務，名為Titan Intelligence。10月份，它還推出了一套用於銷售、客戶服務和呼叫中心的人工智慧代理商。

但是，LLM被設計來研究文字、圖像和數據，並創造他們自己的版本。 也就是說，它們被設計用來編造東西。 OpenAI 的科學家正忙於向通用智能邁進–更好地模仿人類的推理能力–這意味著他們正在研究人工智慧，希望它能更有創造力。

當然，隨著越來越多的公司專門從事可靠性而非創造性至關重要的代理業務，用於商業用途的LLM 可靠性問題應該會逐漸解決。 但值得注意的是，如今那些銷售人工智慧機器人的公司實際上是在用法律術語大聲說”安靜”： 在目前的早期階段，人工智慧的應用可能會帶來和解決同樣多的問題。