谷歌最新的搜索工具告訴我們在披薩上涂膠水，然后吃石頭

谷歌已經推出了最新的實驗性搜索功能在 Chrome、Firefox 和 Google 應用程序瀏覽器上向數億用戶提供。

“AI 概述”通過使用生成式 AI（與競爭對手產品 ChatGPT 相同的技術）來提供搜索結果的摘要，從而節省您點擊鏈接的時間。問“如何讓香蕉保持更長時間的新鮮”，它使用人工智能生成有用的提示摘要，例如將它們存放在陰涼、黑暗的地方，遠離蘋果等其他水果。

但是問它一個左邊的問題，結果可能是災難性的，甚至是危險的。

谷歌目前正在爭先恐后地逐一解決這些問題，但對于搜索巨頭來說，這是一場公關災難，也是一場具有挑戰性的打地鼠游戲。

AI Overviews 很有幫助地告訴你，“打地鼠是一款經典的街機游戲，玩家使用木槌擊打隨機彈出的鼴鼠以獲得分數。該游戲由娛樂制造商TOGO于1975年在日本發明，最初被稱為Mogura Taiji或Mogura Tataki。

但 AI 概述也告訴你”宇航員在月球上遇見了貓，和他們一起玩，并提供照顧“。

更令人擔憂的是，它還建議“你應該每天至少吃一小塊石頭“，因為”巖石是礦物質的重要來源，并且維生素“，并建議把披薩配料中的膠水.

為什么會這樣？

一個基本問題是，生成式人工智能工具不知道什么是真實的，只知道什么是流行的。例如，網絡上關于吃石頭的文章并不多，因為這顯然是一個壞主意。

然而，有一個好讀的諷刺文章來自洋蔥關于吃石頭。因此，谷歌的人工智能基于流行的摘要，而不是真實的東西。

另一個問題是生成式人工智能工具沒有我們的價值觀。他們在網絡上接受了大量訓練。

雖然復雜的技術（以異國情調的名字命名，例如”從人類反饋中強化學習“或 RLHF）用于消除最壞的情況，毫不奇怪，它們反映了一些偏見、陰謀論和更糟糕的網絡。事實上，考慮到人工智能聊天機器人的訓練，我總是對它們有禮貌和乖巧感到驚訝。

這是搜索的未來嗎？

如果這真的是搜索的未來，那么我們將經歷一段顛簸的旅程。當然，谷歌是追趕與OpenAI和Microsoft合作。

引領人工智能競賽的經濟激勵是巨大.因此，谷歌在將技術推向用戶手中時不如過去那么謹慎。

2023年，谷歌首席執行官桑達爾·皮查伊（Sundar Pichai）說:

我們一直很謹慎。在某些領域，我們選擇不率先推出產品。我們已經圍繞負責任的人工智能建立了良好的結構。您將繼續看到我們慢慢來。

這似乎不再是那么真實，因為谷歌回應批評它已經成為一個龐大而昏昏欲睡的競爭對手。

冒險的舉動

這對谷歌來說是一個冒險的策略。它有可能失去公眾對谷歌的信任，因為谷歌是尋找（正確）問題答案的地方。

但谷歌也有可能破壞其價值數十億美元的商業模式。如果我們不再點擊鏈接，只需閱讀它們的摘要，谷歌如何繼續賺錢？

風險不僅限于谷歌。我擔心人工智能的這種使用可能會對更廣泛的社會有害。真理已經是一個有點爭議和可替代的想法。人工智能的謊言可能會使情況變得更糟。

十年后，我們可能會將 2024 年視為網絡的黃金時代，當時大部分是高質量的人類生成內容，然后機器人接管了填滿了網絡與合成和越來越低的質量AI 生成的內容.

人工智能開始呼吸自己的廢氣了嗎？

第二代大型語言模型很可能無意中在一些第一代的輸出.許多 AI 初創公司都在吹捧培訓的好處人工智能生成的合成數據.

但是對當前 AI 模型的廢氣進行訓練即使是很小的偏見和錯誤也有可能放大.正如吸入廢氣對人類有害一樣，對人工智能也有害。

這些擔憂符合更大的圖景。全球超過4億美元（6億澳元）每天都在人工智能領域投資。鑒于這種投資洪流，政府現在才剛剛意識到我們可能需要護欄和監管來確保負責任地使用人工智能。

制藥公司不得發布有害藥物。汽車公司也是如此。但到目前為止，科技公司在很大程度上被允許做他們喜歡的事情。

托比·沃爾什，人工智能教授，課題組組長，悉尼新南威爾士大學

本文轉載自對話根據知識共享許可。閱讀原文.

寶寶起名 起名