計(jì)算機(jī)科學(xué)家討論ChatGPT的利弊
計(jì)算機(jī)科學(xué)家討論ChatGPT的利弊。Credit: Pixabay/CC0 Public Domain
（神秘的討論地球uux.cn）據(jù)by Johns Hopkins University：憑借其模仿人類語(yǔ)言和推理的神奇能力，ChatGPT似乎預(yù)示著人工智能的利弊武漢硚口外圍大圈預(yù)約聯(lián)系方式vx《356+2895》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)一場(chǎng)革命。自從硅谷研究實(shí)驗(yàn)室OpenAI在11月發(fā)布自然語(yǔ)言處理工具以來，計(jì)算機(jī)科用戶已經(jīng)測(cè)試了無數(shù)應(yīng)用程序，討論其中包括靈活的利弊聊天機(jī)器人可以召喚詩(shī)歌和散文，分享食譜，計(jì)算機(jī)科翻譯語(yǔ)言，討論提供建議和講笑話。利弊
伴隨著興奮而來的計(jì)算機(jī)科是一些恐懼——技術(shù)可能會(huì)降低真實(shí)的人類寫作和批判性思維，顛覆行業(yè)，討論并放大我們自己的利弊偏見和成見。
約翰霍普金斯大學(xué)計(jì)算機(jī)科學(xué)助理教授丹尼爾·哈沙比說，計(jì)算機(jī)科對(duì)于那些從事人工智能工作的討論人來說，ChatGPT不僅僅是利弊一夜之間的轟動(dòng)，而是多年實(shí)驗(yàn)后取得成就的標(biāo)志，他專門研究語(yǔ)言處理，并研究過類似的武漢硚口外圍大圈預(yù)約聯(lián)系方式vx《356+2895》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)工具。
“ChatGPT似乎是一場(chǎng)突如其來的革命，”他說。"但這項(xiàng)技術(shù)多年來一直在逐步發(fā)展，最近幾年進(jìn)展迅速."
然而，Khashabi承認(rèn)ChatGPT似乎開創(chuàng)了一個(gè)前所未有的時(shí)代，一個(gè)充滿人類進(jìn)步潛力的時(shí)代。“這真的是我們修正對(duì)智慧含義理解的機(jī)會(huì)，”他說。“這是一個(gè)激動(dòng)人心的時(shí)刻，因?yàn)槲覀冇袡C(jī)會(huì)應(yīng)對(duì)新的挑戰(zhàn)和新的前景，而這些過去是我們力所不及的。”
隨著微軟對(duì)該工具的投資，OpenAI發(fā)布了一個(gè)付費(fèi)版本，谷歌計(jì)劃發(fā)布自己的實(shí)驗(yàn)性聊天機(jī)器人，該中心向Khashabi了解了該技術(shù)及其發(fā)展方向。
能不能分解一下ChatGPT的工作原理？
第一階段不涉及直接的人類反饋。該模型通過從網(wǎng)絡(luò)上回流大量文本來學(xué)習(xí)語(yǔ)言的結(jié)構(gòu)——例如，來自維基百科、Twitter、Reddit、紐約時(shí)報(bào)等所有不同語(yǔ)言的句子和段落。它還接受了來自GitHub等平臺(tái)的程序員編寫的代碼的訓(xùn)練。
在第二階段，[通常稱為“自我監(jiān)督”學(xué)習(xí)]，人類注釋者參與訓(xùn)練模型變得更加復(fù)雜。他們對(duì)ChatGPT收到的各種類型的查詢編寫響應(yīng)，因此該模型學(xué)習(xí)執(zhí)行像“就這個(gè)主題寫一篇文章”或“修改這一段”這樣的命令。
因?yàn)镺penAI坐擁一座金礦，他們有能力雇傭許多注釋者，并讓他們注釋大量高質(zhì)量的數(shù)據(jù)。我通過小道消息聽說，最初的系統(tǒng)被輸入了近100，000輪人類反饋。所以這背后有大量的人力。
但OpenAI的秘密武器不是其人工智能技術(shù)，而是使用其服務(wù)的人。每當(dāng)有人查詢他們的系統(tǒng)時(shí)，他們會(huì)收集這些查詢，以使ChatGPT適應(yīng)用戶正在尋找的內(nèi)容，并識(shí)別他們系統(tǒng)的弱點(diǎn)。換句話說，OpenAI的成功在于贏得了數(shù)百萬(wàn)人使用它的演示。
你個(gè)人是如何體驗(yàn)ChatGPT的？
它可以是一個(gè)優(yōu)秀的寫作和頭腦風(fēng)暴工具。我可以寫一個(gè)我腦海中的想法的摘要，讓ChatGPT更復(fù)雜地?cái)U(kuò)展它，然后挑選我喜歡的結(jié)果并自己進(jìn)一步開發(fā)它們或繼續(xù)使用ChatGPT。這就是人機(jī)協(xié)同寫作。正如Twitter上有人恰當(dāng)?shù)卣f的那樣，“ChatGPT是你大腦的電動(dòng)自行車！”
你對(duì)它受到的關(guān)注和壓力有什么看法？
這是人工智能進(jìn)步的又一個(gè)里程碑，值得慶祝。令人興奮的是，人工智能和自然語(yǔ)言處理越來越接近于幫助人類完成他們關(guān)心的任務(wù)。
然而，我擔(dān)心過分夸大人工智能的狀態(tài)。已經(jīng)取得了進(jìn)展，但“普遍智能”仍未出現(xiàn)。在過去的幾十年里，每當(dāng)我們進(jìn)步的時(shí)候，我們都會(huì)不斷地修正我們對(duì)“聰明”的理解。在20世紀(jì)60年代和70年代，我們的目標(biāo)是創(chuàng)建一個(gè)與人類對(duì)弈的系統(tǒng)。這樣的例子還有很多。每一次進(jìn)步，我們都會(huì)想:“就是這樣！”但是過了一段時(shí)間，炒作就銷聲匿跡了，我們看到了問題并發(fā)現(xiàn)了新的需求。
“智能”一直是一個(gè)不斷變化的目標(biāo)，并且很可能繼續(xù)保持下去，但我對(duì)在解決ChatGPT類系統(tǒng)的缺點(diǎn)方面取得的進(jìn)展感到興奮。
那些缺點(diǎn)是什么？
ChatGPT編東西很容易。如果你問ChatGPT一些它沒見過的小眾的東西，它會(huì)用流暢的議論文式的語(yǔ)言幻覺出事實(shí)。例如，如果你問它如何定義“維納斯·大威廉姆斯在哪屆錦標(biāo)賽上贏得她的第八個(gè)大滿貫？”它會(huì)為你補(bǔ)上一個(gè)答案，盡管維納斯·大威廉姆斯已經(jīng)贏得了七個(gè)大滿貫。正如許多媒體報(bào)道的那樣，她想贏得她的第八個(gè)冠軍，但她沒有。這個(gè)模型混淆了“想贏”和“贏了”這兩個(gè)概念。
問題是它做得如此流暢。它可以給你垃圾，但在如此流暢，連貫的語(yǔ)言中，如果你不是該領(lǐng)域的專家，你可能會(huì)相信它說的是真的。這讓我很擔(dān)心，我認(rèn)為我們?nèi)祟愒诳此魄逦妮敵雒媲昂苋菀资茯_。
另一方面，ChatGPT有什么令人興奮的地方？
我們現(xiàn)在有了這些工具，可以產(chǎn)生有創(chuàng)造性的和流暢的語(yǔ)言，這是我們花了多年時(shí)間解決的一個(gè)挑戰(zhàn)。作為一名人工智能科學(xué)家，我的興奮之處在于接下來的步驟，我們有新的問題需要人工智能來解決。
我對(duì)人工智能的目標(biāo)——逆向工程人類智能——不太感興趣，而更感興趣的是智能增強(qiáng)。我認(rèn)為使用人工智能使人類能夠做得更好并增強(qiáng)人類能力是一個(gè)有價(jià)值的目標(biāo)。我對(duì)這種協(xié)作系統(tǒng)感到興奮。
你如何看待技術(shù)的發(fā)展？
我們?nèi)蕴幱谶@種變化之中，但我們將繼續(xù)使語(yǔ)言模型更有效，從而產(chǎn)生更緊湊但質(zhì)量更高的模型。因此，我們將在任何地方看到非常可靠的對(duì)話代理形式。未來的模型將是你的網(wǎng)絡(luò)導(dǎo)航助手，完成我們現(xiàn)在自己做的各種基于網(wǎng)絡(luò)的普通任務(wù)。
同樣的一套技術(shù)也開始進(jìn)入現(xiàn)實(shí)世界。當(dāng)前的模型，如ChatGPT，不能感知它們的環(huán)境。比如他們看不到我的手機(jī)在哪里，看不到我有多累。很快我們就會(huì)看到有眼睛的ChatGPT。這些模型將使用不同形式的數(shù)據(jù)(文本、視覺、聽覺等。)，這是他們每天為我們服務(wù)所必需的。
這將導(dǎo)致基于其物理環(huán)境數(shù)據(jù)的自我監(jiān)督機(jī)器人，包括物理對(duì)象、人類及其交互。這里的影響將是巨大的。在不到10年的時(shí)間里，我們?nèi)粘Ｊ褂玫娜魏挝锢碓O(shè)備——汽車、冰箱、洗衣機(jī)等等。—將成為您可以與之交談的對(duì)話代理。我們還將看到機(jī)器人在解決今天不可能解決的問題方面驚人的強(qiáng)壯。想象一下，你要和你的Roomba談?wù)撃阆胱龌虿幌胱龅氖虑椋拖衲愫虲hatGPT交談一樣。
同樣重要的是，不要忽視這些技術(shù)將如何在社會(huì)層面上改變事物。未來的多模態(tài)模式——有眼睛和耳朵的聊天機(jī)器人——將無處不在，并將影響一切，包括公共安全。但現(xiàn)在問題來了:在一個(gè)我們不斷被有眼睛和耳朵的人工智能模型監(jiān)視的社會(huì)里，我們的自由和隱私會(huì)是什么樣子？
這聽起來像是著名小說《1984》描述的反烏托邦社會(huì)。像任何其他技術(shù)一樣，自我監(jiān)督模型是一把雙刃劍。我們現(xiàn)在能做的最好的事情就是保持警惕，在應(yīng)用程序出現(xiàn)之前預(yù)見并討論這些問題。理想情況下，我們需要通過從ChatGPT等例子向其未來擴(kuò)展進(jìn)行外推，來開發(fā)確保我們的自由和公平的框架。我很樂觀，我們會(huì)的。 |
喜歡
討厭