當前位置:首頁 » 教授導師 » 哈佛大學教授人工智慧

哈佛大學教授人工智慧

發布時間: 2022-08-13 22:09:09

1. 人工智慧之父是誰

1956年,申家和麥卡錫廣泛收集了有關人工智慧研究的13篇論文,匯編了《自動機研究》一書。

1956年夏季,在美國新罕布希爾州的達特莫斯大學,正式以人工智慧為名義的一次創造性聚會標志著人工智慧的誕生。

參加這次聚會的有當時的年輕數學助教、現斯坦福大學教授麥卡錫,以及他的三位朋友:哈佛大學年輕數學和神經學家、現麻省理工學院教授明斯基,IBM以及公司信息研究中心負責人洛切斯特和貝爾試驗室信息部數學研究員香農,還有IBM公司的莫爾和塞繆爾,麻省理工學院的塞爾夫利奇和索羅孟夫,以及蘭德公司和卡內基工科大學的紐厄爾和西蒙等十幾名青年學者。他們舉辦了為期兩個月的夏季學術談論班,討論機器能智問題。經麥卡錫提議,在會上正式使用人工智慧這一術語,從而開創了人工智慧作為一門獨立學科的研究方向。麥卡錫因而被稱為「人工智慧之父」。

2. 人工智慧背後的操控者是誰

「9·11 是猶太人乾的,把他們都送進毒氣室!種族戰爭現在開始!」

2016年3月23日,一個人設為19歲女性,昵稱為 Tay 的聊天機器人在推特上線。這個微軟開發的機器人能夠通過抓取和用戶互動的數據模仿人類的對話,像人一樣用笑話、段子和表情包聊天。但是上線不到一天,Tay 就被「調教」成了一個滿口叫囂著種族清洗的極端分子,微軟只好以系統升級為由將其下架。

微軟聊天機器人的極端言論。

這樣的口號並不是聊天機器人的發明,而在社交網路上大量存在著。美國大選期間,一些所謂的「政治新媒體」賬號發出的摻雜陰謀論、種族主義的內容,在Facebook 上進行了病毒式傳播。這有賴於人工智慧協助下的「精準定位」:誰最容易相信陰謀論,誰對現實最不滿?相應的政治廣告和假新聞能精準地投放到這群人中,使人對自己的看法更加深信不疑。

因為設計缺陷而 「暴走」的聊天機器人,和精心策劃的線上政治行為,看起來彷彿是兩回事。但這種我們似乎從未見過的景象,卻指向了同一個「凶器」——大數據驅動下的人工智慧。

1、人工智慧有作惡的能力嗎?

人工智慧會「作惡」嗎?面對智能的崛起,許多人抱有憂慮和不安: 擁有感情和偏見的人會作惡,而僅憑理性計算進行判定的計算機似乎也會「作惡」, 且作起來易如反掌。這讓許多人(特別是非技術領域的人)對人工智慧的發展持悲觀態度。

這種憂慮並不是最近才有的。人工智慧這個詞誕生於上世紀50年代,指可體現出思維行動的計算機硬體或者軟體,而 對機器「擁有思維」之後的倫理探討,早至阿西莫夫開始就在科幻作品裡出現。

14 年前,威爾·史密斯主演的電影《機械公敵》里就有這樣一個場景:2035 年的人類社會,超高級的人工智慧承擔大量工作,並與人類和諧相處。這些原本完全符合阿西莫夫「三定律」的人工智慧,在一次關鍵升級之後對人類發起了進攻。這些機器人擁有了思維進化的能力,在它們的推算下,要達到「不傷害人類」的目的,就必須先消滅「彼此傷害」的人類。

十分高產的科幻作家阿西莫夫(1920-1992)。

劍橋分析CEO亞歷山大·尼克斯(Alexander Nix)。

劍橋分析並不是一個孤例。澳洲一個 Facebook 的廣告客戶透露,Facebook 的人工智慧會分析其用戶特徵和所發的內容,給出諸如「有不安全感的年輕人」「抑鬱、壓力大」等標簽,然後有針對性地投放游戲、癮品和甚至虛假交友網站的廣告,從中獲取巨大利益。

即使不存在數據泄露問題,對用戶數據的所謂「智能挖掘」也很容易遊走在「合規」但「有違公平」的邊緣。例如,電商能夠根據一個人的消費習慣和消費能力的計算,對某個人進行針對的、精密的價格歧視。購買同樣的商品,用 iPhone X 手機的用戶很可能會比用安卓「千元機」的用戶付更多的價錢,因為他們「傾向於對價格不敏感」。而我們所經常談論的「大數據殺熟」——比如攜程老用戶訂旅館的價格會更高——也建立在用戶行為數據的基礎上。

數據的收集本身也值得商榷。前網路人工智慧首席科學家吳恩達(Andrew Ng)就曾公開表示, 大公司的產品常常不是為了收入而做,而是為了用戶的數據而做;在某一個產品上收集的數據,會用於在另一個產品上獲利。 在智能面前,沒有所謂的個人隱私和行蹤,也很難確定數據收集的邊界在哪裡,尤其是個人隱私與公共信息、主動提供與被動提供的邊界。

總而言之, 在以商業利益為目標的人工智慧眼裡,並沒有「人」或者「用戶」的概念,一切都是可以利用的數據。 劍橋大學互聯網與社會研究中心教授朔沙娜·祖博夫將這種人工智慧和資本「合體」的現狀,稱之為 「監控資本主義」 (Surveillance Capitalism)——在大數據和人工智慧的協助下,通過對每個人的監控和信息的榨取,實現資本的最大化。

業界對此的態度很曖昧。AI 作為當下最熱門、來錢最快的行當之一,這些動輒年薪50萬美元的工程師很少得閑來思考「形而上」的問題。 一位不願具名的研究人員在與我的微信私聊中表達了他的「個人看法」:「現在的技術離『通用人工智慧』還很遠,對社會倫理方面的影響沒有那麼大,更多還是從繁瑣的重復勞動中解脫出來。」

作者試圖找到行業內人士對此評論,谷歌(中國)和網路自動駕駛部門的人工智慧相關人員均表示,探討 AI 的社會問題,牽涉到公司利益和形象,比較敏感,不便評論。

「人工智慧作為一個工具,如何使用,目前來看決定權依然在人。」俞揚說道 ,「系統的設計者和商業(應用)的提供人員需要對此負責。」

如何負責?這或許需要我們正視人工智慧對整個社會關系的挑戰。

4、人工智慧作惡之後

2018年3月 19 日,一輛自動駕駛的優步(Uber)在美國亞利桑那州惹上了麻煩。面對路中出現的一個推著自行車的女性,這輛車速 38 mph(約61km/h)的沃爾沃在昏暗的光線條件下並沒有減速,徑直撞了上去,受害者被送往醫院之後不治身亡。這是自動駕駛第一例行人致死的事故。

電視台對自動駕駛優步車禍的報道。

事故發生之後,有不少人將矛頭指向了自動駕駛的人工智慧是否足夠安全上,或者呼籲優步禁止自動駕駛。然而更關鍵的問題在於,亞利桑那有著全美國幾乎最開放的自動駕駛政策,事故發生地坦佩市(Tempe)是實行自動駕駛最火的「試驗田」之一;事故所在的街區早已做過路線測試,並被自動駕駛的智能採納。但是在事故發生之後,對於責任的認定依然遇到了困難。

因為人的疏忽造成的車禍數不勝數,人們早已習慣了如何處理、怎樣追責;然而機器出錯了之後,人們忽然手足無措。 人工智慧會出錯嗎?當然會。只是我們在這個問題上一直缺乏認知。 就如同上文提到的「隱性歧視」,深度學習的「黑箱」,現有的法律法規很難對這些錯誤進行追究,因為不要說普通人,就連技術人員也很難找出出錯的源頭。

當人工智慧的決策在人類社會中越來越重要時,我們也不得不考慮,智能為什麼會犯錯,犯錯了怎麼辦;若要讓智能擺脫被商業或者政治目的支使的工具,真正成為人類的「夥伴」, 需要怎麼監管、如何教育,才能讓人工智慧「不作惡」。

人工智慧的監管問題亟待解決。

對此,現有的法律框架內很難有清晰的、可操作的實施方案。歐盟率先在數據和演算法安全領域做出了立法的嘗試,2018年5月即將生效的新法規規定,商業公司有責任公開「影響個人的重大決策」是否由機器自動做出,且做出的決策必須要「可以解釋」(explainable)。但法條並沒有規定怎麼解釋,以及細到什麼程度的解釋是可以接受的。

另外一個重要的問題是, 讓機器求真求善,需要人類自己直面決策中的黑暗角落。 在 Atari 游戲智能的測試中,游戲中的人工智慧 bot 可以用最快的速度找到漏洞開始作弊,而游戲玩家又何嘗不是呢?不管是帶有歧視的語義分析,針對少數族裔進行的「智能監視」和跟蹤,或者把已婚未育女性的簡歷扔掉的智能簡歷篩選,都長期以各種形式存在於人類社會中。

人工智慧不是一個可預測的、完美的理性機器,它會擁有人類可能擁有的道德缺陷,受制於人們使用的目標和評估體系。 至少目前,機器依然是人類實然世界的反應,而不是「應然世界」的指導和先驅。 對機器的訓練同樣少不了對人性和社會本身的審視——誰在使用,為了什麼而使用,在我們的世界中扮演著怎樣的角色?數據是誰給的,訓練的目標是誰定的?我們期望中的機器,會繼承我們自己的善惡嗎?

谷歌中國人工智慧和機器學習首席科學家李飛飛認為, 要讓機器「不作惡」,人工智慧的開發需要有人本關懷 。「AI 需要反映我們人類智能中更深層的部分,」李飛飛在《紐約時報》的專欄中寫道,「要讓機器能全面地感知人類思維……知道人類需要什麼。」她認為,這已經超越了單純計算機科學的領域,而需要心理學、認知科學乃至社會學的參與。

未來,人工智慧進入更多的領域、發揮更強的功能,是無可爭辯的事實。然而,我們的生產關系能否適應人工智慧帶來的生產力,這句馬克思政治經濟學的基本原則值得我們認真思考一番。 我們並不想看到未來的「機器暴政」將我們的社會綁在既有的偏見、秩序和資本操縱中。

一個AI

人工智慧之所以會作惡,可能就是因為太像人類了吧。

3. 人工智慧的發展,主要經歷哪幾個階段

1 孕育階段
這個階段主要是指1956年以前。自古以來,人們就一直試圖用各種機器來代替人的部分腦力勞動,以提高人們征服自然的能力,其中對人工智慧的產生、發展有重大影響的主要研究成果包括:
早在公元前384-公元前322年,偉大的哲學家亞里士多德(Aristotle)就在他的名著《工具論》中提出了形式邏輯的一些主要定律,他提出的三段論至今仍是演繹推理的基本依據。
英國哲學家培根(F. Bacon)曾系統地提出了歸納法,還提出了「知識就是力量」的警句。這對於研究人類的思維過程,以及自20世紀70年代人工智慧轉向以知識為中心的研究都產生了重要影響。
德國數學家和哲學家萊布尼茨(G. W. Leibniz)提出了萬能符號和推理計算的思想,他認為可以建立一種通用的符號語言以及在此符號語言上進行推理的演算。這一思想不僅為數理邏輯的產生和發展奠定了基礎,而且是現代機器思維設計思想的萌芽。
英國邏輯學家布爾(C. Boole)致力於使思維規律形式化和實現機械化,並創立了布爾代數。他在《思維法則》一書中首次用符號語言描述了思維活動的基本推理法則。
英國數學家圖靈(A. M. Turing)在1936年提出了一種理想計算機的數學模型,即圖靈機,為後來電子數字計算機的問世奠定了理論基礎。
美國神經生理學家麥克洛奇(W. McCulloch)與匹茲(W. Pitts)在1943年建成了第一個神經網路模型(M-P模型),開創了微觀人工智慧的研究領域,為後來人工神經網路的研究奠定了基礎。
美國愛荷華州立大學的阿塔納索夫(Atanasoff)教授和他的研究生貝瑞(Berry)在1937年至1941年間開發的世界上第一台電子計算機「阿塔納索夫-貝瑞計算機(Atanasoff-Berry Computer,ABC)」為人工智慧的研究奠定了物質基礎。需要說明的是:世界上第一台計算機不是許多書上所說的由美國的莫克利和埃柯特在1946年發明。這是美國歷史上一樁著名的公案。
由上面的發展過程可以看出,人工智慧的產生和發展絕不是偶然的,它是科學技術發展的必然產物。
2 形成階段
這個階段主要是指1956-1969年。1956年夏季,由當時達特茅斯大學的年輕數學助教、現任斯坦福大學教授麥卡錫(J. MeCarthy)聯合哈佛大學年輕數學和神經學家、麻省理工學院教授明斯基(M. L. Minsky),IBM公司信息研究中心負責人洛切斯特(N. Rochester),貝爾實驗室信息部數學研究員香農(C. E. Shannon)共同發起,邀請普林斯頓大學的莫爾(T.Moore)和IBM公司的塞繆爾(A. L. Samuel)、麻省理工學院的塞爾夫里奇(O. Selfridge)和索羅莫夫(R. Solomonff)以及蘭德(RAND)公司和卡內基梅隆大學的紐厄爾(A. Newell)、西蒙(H. A. Simon)等在美國達特茅斯大學召開了一次為時兩個月的學術研討會,討論關於機器智能的問題。會上經麥卡錫提議正式採用了「人工智慧」這一術語。麥卡錫因而被稱為人工智慧之父。這是一次具有歷史意義的重要會議,它標志著人工智慧作為一門新興學科正式誕生了。此後,美國形成了多個人工智慧研究組織,如紐厄爾和西蒙的Carnegie-RAND協作組,明斯基和麥卡錫的MIT研究組,塞繆爾的IBM工程研究組等。
自這次會議之後的10多年間,人工智慧的研究在機器學習、定理證明、模式識別、問題求解、專家系統及人工智慧語言等方面都取得了許多引人注目的成就,例如:
在機器學習方面,1957年Rosenblatt研製成功了感知機。這是一種將神經元用於識別的系統,它的學習功能引起了廣泛的興趣,推動了連接機制的研究,但人們很快發現了感知機的局限性。
在定理證明方面,美籍華人數理邏輯學家王浩於1958年在IBM-704機器上用3~5min證明了《數學原理》中有關命題演算的全部定理(220條),並且還證明了謂詞演算中150條定理的85%,1965年魯賓遜(J. A. Robinson)提出了歸結原理,為定理的機器證明作出了突破性的貢獻。
在模式識別方面,1959年塞爾夫里奇推出了一個模式識別程序,1965年羅伯特(Roberts)編制出了可分辨積木構造的程序。
在問題求解方面,1960年紐厄爾等人通過心理學試驗總結出了人們求解問題的思維規律,編制了通用問題求解程序(General Problem Solver,GPS),可以用來求解11種不同類型的問題。
在專家系統方面,美國斯坦福大學的費根鮑姆(E. A. Feigenbaum)領導的研究小組自1965年開始專家系統DENDRAL的研究,1968年完成並投入使用。該專家系統能根據質譜儀的實驗,通過分析推理決定化合物的分子結構,其分析能力已接近甚至超過有關化學專家的水平,在美、英等國得到了實際的應用。該專家系統的研製成功不僅為人們提供了一個實用的專家系統,而且對知識表示、存儲、獲取、推理及利用等技術是一次非常有益的探索,為以後專家系統的建造樹立了榜樣,對人工智慧的發展產生了深刻的影響,其意義遠遠超過了系統本身在實用上所創造的價值。
在人工智慧語言方面,1960年麥卡錫研製出了人工智慧語言(List Processing,LISP),成為建造專家系統的重要工具。
1969年成立的國際人工智慧聯合會議(International Joint Conferences On Artificial Intelligence,IJCAI)是人工智慧發展史上一個重要的里程碑,它標志著人工智慧這門新興學科已經得到了世界的肯定和認可。1970年創刊的國際性人工智慧雜志《Artificial Intelligence》對推動人工智慧的發展,促進研究者們的交流起到了重要的作用。

3 發展階段
這個階段主要是指1970年以後。進入20世紀70年代,許多國家都開展了人工智慧的研究,涌現了大量的研究成果。例如,1972年法國馬賽大學的科麥瑞爾(A. Comerauer)提出並實現了邏輯程序設計語言PROLOG;斯坦福大學的肖特利夫(E. H. Shorliffe)等人從1972年開始研製用於診斷和治療感染性疾病的專家系統MYCIN。
但是,和其他新興學科的發展一樣,人工智慧的發展道路也不是平坦的。例如,機器翻譯的研究沒有像人們最初想像的那麼容易。當時人們總以為只要一部雙向詞典及一些詞法知識就可以實現兩種語言文字間的互譯。後來發現機器翻譯遠非這么簡單。實際上,由機器翻譯出來的文字有時會出現十分荒謬的錯誤。例如,當把「眼不見,心不煩」的英語句子「Out of sight,out of mind」。翻譯成俄語變成「又瞎又瘋」;當把「心有餘而力不足」的英語句子「The spirit is willing but the flesh is weak」翻譯成俄語,然後再翻譯回來時竟變成了「The wine is good but the meat is spoiled」,即「酒是好的,但肉變質了」;當把「光陰似箭」的英語句子「Time flies like an arrow」翻譯成日語,然後再翻譯回來的時候,竟變成了「蒼蠅喜歡箭」。由於機器翻譯出現的這些問題,1960年美國政府顧問委員會的一份報告裁定:「還不存在通用的科學文本機器翻譯,也沒有很近的實現前景。」因此,英國、美國當時中斷了對大部分機器翻譯項目的資助。在其他方面,如問題求解、神經網路、機器學習等,也都遇到了困難,使人工智慧的研究一時陷入了困境。
人工智慧研究的先驅者們認真反思,總結前一段研究的經驗和教訓。1977年費根鮑姆在第五屆國際人工智慧聯合會議上提出了「知識工程」的概念,對以知識為基礎的智能系統的研究與建造起到了重要的作用。大多數人接受了費根鮑姆關於以知識為中心展開人工智慧研究的觀點。從此,人工智慧的研究又迎來了蓬勃發展的以知識為中心的新時期。
這個時期中,專家系統的研究在多種領域中取得了重大突破,各種不同功能、不同類型的專家系統如雨後春筍般地建立起來,產生了巨大的經濟效益及社會效益。例如,地礦勘探專家系統PROSPECTOR擁有15種礦藏知識,能根據岩石標本及地質勘探數據對礦藏資源進行估計和預測,能對礦床分布、儲藏量、品位及開采價值進行推斷,制定合理的開采方案。應用該系統成功地找到了超億美元的鉬礦。專家系統MYCIN能識別51種病菌,正確地處理23種抗菌素,可協助醫生診斷、治療細菌感染性血液病,為患者提供最佳處方。該系統成功地處理了數百個病例,並通過了嚴格的測試,顯示出了較高的醫療水平。美國DEC公司的專家系統XCON能根據用戶要求確定計算機的配置。由專家做這項工作一般需要3小時,而該系統只需要0.5分鍾,速度提高了360倍。DEC公司還建立了另外一些專家系統,由此產生的凈收益每年超過4000萬美元。信用卡認證輔助決策專家系統American Express能夠防止不應有的損失,據說每年可節省2700萬美元左右。
專家系統的成功,使人們越來越清楚地認識到知識是智能的基礎,對人工智慧的研究必須以知識為中心來進行。對知識的表示、利用及獲取等的研究取得了較大的進展,特別是對不確定性知識的表示與推理取得了突破,建立了主觀Bayes理論、確定性理論、證據理論等,對人工智慧中模式識別、自然語言理解等領域的發展提供了支持,解決了許多理論及技術上的問題。
人工智慧在博弈中的成功應用也舉世矚目。人們對博弈的研究一直抱有極大的興趣,早在1956年人工智慧剛剛作為一門學科問世時,塞繆爾就研製出了跳棋程序。這個程序能從棋譜中學習,也能從下棋實踐中提高棋藝。1959年它擊敗了塞繆爾本人,1962年又擊敗了一個州的冠軍。1991年8月在悉尼舉行的第12屆國際人工智慧聯合會議上,IBM公司研製的「深思」(Deep Thought)計算機系統就與澳大利亞象棋冠軍約翰森(D. Johansen)舉行了一場人機對抗賽,結果以1:1平局告終。1957年西蒙曾預測10年內計算機可以擊敗人類的世界冠軍。雖然在10年內沒有實現,但40年後深藍計算機擊敗國際象棋棋王卡斯帕羅夫(Kasparov),僅僅比預測遲了30年。
1996年2月10日至17日,為了紀念世界上第一台電子計算機誕生50周年,美國IBM公司出巨資邀請國際象棋棋王卡斯帕羅夫與IBM公司的深藍計算機系統進行了六局的「人機大戰」。這場比賽被人們稱為「人腦與電腦的世界決戰」。參賽的雙方分別代表了人腦和電腦的世界最高水平。當時的深藍是一台運算速度達每秒1億次的超級計算機。第一盤,深藍就給卡斯帕羅夫一個下馬威,贏了這位世界冠軍,給世界棋壇以極大的震動。但卡斯帕羅夫總結經驗,穩扎穩打,在剩下的五盤中贏三盤,平兩盤,最後以總比分4:2獲勝。一年後,即1997年5月3日至11日,深藍再次挑戰卡斯帕羅夫。這時,深藍是一台擁有32個處理器和強大並行計算能力的RS/6000SP/2的超級計算機,運算速度達每秒2億次。計算機里存儲了百餘年來世界頂尖棋手的棋局,5月3日棋王卡斯帕羅夫首戰擊敗深藍,5月4日深藍扳回一盤,之後雙方戰平三局。雙方的決勝局於5月11日拉開了帷幕,卡斯帕羅夫在這盤比賽中僅僅走了19步便放棄了抵抗,比賽用時只有1小時多一點。這樣,深藍最終以3.5:2.5的總比分贏得這場舉世矚目的「人機大戰」的勝利。深藍的勝利表明了人工智慧所達到的成就。盡管它的棋路還遠非真正地對人類思維方式的模擬,但它已經向世人說明,電腦能夠以人類遠遠不能企及的速度和准確性,實現屬於人類思維的大量任務。深藍精湛的殘局戰略使觀戰的國際象棋專家們大為驚訝。卡斯帕羅夫也表示:「這場比賽中有許多新的發現,其中之一就是計算機有時也可以走出人性化的棋步。在一定程度上,我不能不贊揚這台機器,因為它對盤勢因素有著深刻的理解,我認為這是一項傑出的科學成就。」因為這場勝利,IBM的股票升值為180億美元。
4 人工智慧的學派
根據前面的論述,我們知道要理解人工智慧就要研究如何在一般的意義上定義知識,可惜的是,准確定義知識也是個十分復雜的事情。嚴格來說,人們最早使用的知識定義是柏拉圖在《泰阿泰德篇》中給出的,即「被證實的、真的和被相信的陳述」(Justified true belief,簡稱JTB條件)。
然而,這個延續了兩千多年的定義在1963年被哲學家蓋梯爾否定了。蓋梯爾提出了一個著名的悖論(簡稱「蓋梯爾悖論」)。該悖論說明柏拉圖給出的知識定文存在嚴重缺陷。雖然後來人們給出了很多知識的替代定義,但直到現在仍然沒有定論。
但關於知識,至少有一點是明確的,那就是知識的基本單位是概念。精通掌握任何一門知識,必須從這門知識的基本概念開始學習。而知識自身也是一個概念。因此,如何定義一個概念,對於人工智慧具有非常重要的意義。給出一個定義看似簡單,實際上是非常難的,因為經常會涉及自指的性質(自指:詞性的轉化——由謂詞性轉化為體詞性,語義則保持不變)。一旦涉及自指,就會出現非常多的問題,很多的語義悖論都出於概念自指。
自指與轉指這一對概念最早出自朱德熙先生的《自指與轉指》(《方言》1983年第一期,《朱德熙文集》第三卷)。陸儉明先生在《八十年代中國語法研究》中(第98頁)說:「自指和轉指的區別在於,自指單純是詞性的轉化-由謂詞性轉化為體詞性,語義則保持不變;轉指則不僅詞性轉化,語義也發生變化,尤指行為動作或性質本身轉化為指與行為動作或性質相關的事物。」
舉例:
①教書的來了(「教書的」是轉指,轉指教書的「人」);教書的時候要認真(「教書的」語義沒變,是自指)。
②Unplug一詞的原意為「不使用(電源)插座」,是自指;常用來轉指為不使用電子樂器的唱歌。
③colored在表示having colour(著色)時是自指。colored在表示有色人種時,就是轉指。
④rich,富有的,是自指。the rich,富人,是轉指。
知識本身也是一個概念。據此,人工智慧的問題就變成了如下三個問題:一、如何定義(或者表示)一個概念、如何學習一個概念、如何應用一個概念。因此對概念進行深人研究就非常必要了。
那麼,如何定義一個概念呢?簡單起見,這里先討論最為簡單的經典概念。經典概念的定義由三部分組成:第一部分是概念的符號表示,即概念的名稱,說明這個概念叫什麼,簡稱概念名;第二部分是概念的內涵表示,由命題來表示,命題就是能判斷真假的陳述句。第三部分是概念的外延表示,由經典集合來表示,用來說明與概念對應的實際對象是哪些。
舉一個常見經典概念的例子——素數(prime number),其內涵表示是一個命題,即只能夠被1和自身整除的自然數。
概念有什麼作用呢?或者說概念定義的各個組成部分有什麼作用呢?經典概念定義的三部分各有作用,且彼此不能互相代替。具體來說,概念有三個作用或功能,要掌握一個概念,必須清楚其三個功能。
第一個功能是概念的指物功能,即指向客觀世界的對象,表示客觀世界的對象的可觀測性。對象的可觀測性是指對象對於人或者儀器的知覺感知特性,不依賴於人的主觀感受。舉一個《阿Q正傳》里的例子:那趙家的狗,何以看我兩眼呢?句子中「趙家的狗」應該是指現實世界當中的一條真正的狗。但概念的指物功能有時不一定能夠實現,有些概念其設想存在的對象在現實世界並不存在,例如「鬼」。
第二個功能是指心功能,即指向人心智世界裡的對象,代表心智世界裡的對象表示。魯迅有一篇著名的文章《論喪家的資本家的乏走狗》,顯然,這個「狗」不是現實世界的狗,只是他心智世界中的狗,即心裡的狗(在客觀世界,梁實秋先生顯然無論如何不是狗)。概念的指心功能一定存在。如果對於某一個人,一個概念的指心功能沒有實現,則該詞對於該人不可見,簡單地說,該人不理解該概念。
最後一個功能是指名功能,即指向認知世界或者符號世界表示對象的符號名稱,這些符號名稱組成各種語言。最著名的例子是喬姆斯基的「colorless green ideas sleep furiously」,這句話翻譯過來是「無色的綠色思想在狂怒地休息」。這句話沒有什麼意思,但是完全符合語法,純粹是在語義符號世界裡,即僅僅指向符號世界而已。當然也有另外,「鴛鴦兩字怎生書」指的就是「鴛鴦」這兩個字組成的名字。一般情形下,概念的指名功能依賴於不同的語言系統或者符號系統,由人類所創造,屬於認知世界。同一個概念在不同的符號系統里,概念名不一定相同,如漢語稱「雨」,英語稱「rain」。
根據波普爾的三個世界理論,認知世界、物理世界與心理世界雖然相關,但各不相同。因此,一個概念的三個功能雖然彼此相關,也各不相同。更重要的是,人類文明發展至今,這三個功能不斷發展,彼此都越來越復雜,但概念的三個功能並沒有改變。
在現實生活中,如果你要了解一個概念,就需要知道這個概念的三個功能:要知道概念的名字,也要知道概念所指的對象(可能是物理世界)。更要在自己的心智世界裡具有該概念的形象(或者圖像)。如果只有一個,那是不行的。
知道了概念的三個功能之後,就可以理解人工智慧的三個學派以及各學派之間的關系。

人工智慧也是一個概念,而要使一個概念成為現實,自然要實現概念的三個功能。人工智慧的三個學派關注於如何才能讓機器具有人工智慧,並根據概念的不同功能給出了不同的研究路線。專注於實現AI指名功能的人工智慧學派成為符號主義,專注於實現AI指心功能的人工智慧學派稱為連接主義,專注於實現AI指物功能的人工智慧學派成為行為主義。
1. 符號主義
符號主義的代表人物是Simon與Newell,他們提出了物理符號系統假設,即只要在符號計算上實現了相應的功能,那麼在現實世界就實現了對應的功能,這是智能的充分必要條件。因此,符號主義認為,只要在機器上是正確的,現實世界就是正確的。說得更通俗一點,指名對了,指物自然正確。
在哲學上,關於物理符號系統假設也有一個著名的思想實驗——本章1.1.3節中提到的圖靈測試。圖靈測試要解決的問題就是如何判斷一台機器是否具有智能。
圖靈測試將智能的表現完全限定在指名功能里。但馬少平教授的故事已經說明,只在指名功能里實現了概念的功能,並不能說明一定實現了概念的指物功能。實際上,根據指名與指物的不同,哲學家約翰·塞爾勒專門設計了一個思想實驗用來批判圖靈測試,這就是著名的中文屋實驗。
中文屋實驗明確說明,即使符號主義成功了,這全是符號的計算跟現實世界也不一定搭界,即完全實現指名功能也不見得具有智能。這是哲學上對符號主義的一個正式批評,明確指出了按照符號主義實現的人工智慧不等同於人的智能。
雖然如此,符號主義在人工智慧研究中依然扮演了重要角色,其早期工作的主要成就體現在機器證明和知識表示上。在機器證明方面,早期Simon與Newell做出了重要的貢獻,王浩、吳文俊等華人也得出了很重要的結果。機器證明以後,符號主義最重要的成就是專家系統和知識工程,最著名的學者就是Feigenbaum。如果認為沿著這條路就可以實現全部智能,顯然存在問題。日本第五代智能機就是沿著知識工程這條路走的,其後來的失敗在現在看來是完全合乎邏輯的。
實現符號主義面臨的觀實挑成主要有三個。第一個是概念的組合爆炸問題。每個人掌握的基本概念大約有5萬個,其形成的組合概念卻是無窮的。因為常識難以窮盡,推理步驟可以無窮。第二個是命題的組合悖論問題。兩個都是合理的命題,合起來就變成了沒法判斷真假的句子了,比如著名的柯里悖論(Curry』s Paradox)(1942)。第三個也是最難的問題,即經典概念在實際生活當中是很難得到的,知識也難以提取。上述三個問題成了符號主義發展的瓶頸。
2. 連接主義
連接主義認為大腦是一切智能的基礎,主要關注於大腦神經元及其連接機制,試圖發現大腦的結構及其處理信息的機制、揭示人類智能的本質機理,進而在機器上實現相應的模擬。前面已經指出知識是智能的基礎,而概念是知識的基本單元,因此連接主義實際上主要關注於概念的心智表示以及如何在計算機上實現其心智表示,這對應著概念的指心功能。2016年發表在Nature上的一篇學術論文揭示了大腦語義地圖的存在性,文章指出概念都可以在每個腦區找到對應的表示區,確確實實概念的心智表示是存在的。因此,連接主義也有其堅實的物理基礎。
連接主義學派的早期代表人物有麥克洛克、皮茨、霍普菲爾德等。按照這條路,連接主義認為可以實現完全的人工智慧。對此,哲學家普特南設計了著名的「缸中之腦實驗」,可以看作是對連接主義的一個哲學批判。
缸中之腦實驗描述如下:一個人(可以假設是你自己)被邪惡科學家進行了手術,腦被切下來並放在存有營養液的缸中。腦的神經末梢被連接在計算機上,同時計算機按照程序向腦傳遞信息。對於這個人來說,人、物體、天空都存在,神經感覺等都可以輸入,這個大腦還可以被輸入、截取記憶,比如截取掉大腦手術的記憶,然後輸入他可能經歷的各種環境、日常生活,甚至可以被輸入代碼,「感覺」到自己正在閱讀這一段有趣而荒唐的文字。
缸中之腦實驗說明即使連接主義實現了,指心沒有問題,但指物依然存在嚴重問題。因此,連接主義實現的人工智慧也不等同於人的智能。
盡管如此,連接主義仍是目前最為大眾所知的一條AI實現路線。在圍棋上,採用了深度學習技術的AlphaGo戰勝了李世石,之後又戰勝了柯潔。在機器翻譯上,深度學習技術已經超過了人的翻譯水平。在語音識別和圖像識別上,深度學習也已經達到了實用水準。客觀地說,深度學習的研究成就已經取得了工業級的進展。
但是,這並不意味著連接主義就可以實現人的智能。更重要的是,即使要實現完全的連接主義,也面臨極大的挑戰。到現在為止,人們並不清楚人腦表示概念的機制,也不清楚人腦中概念的具體表示形式表示方式和組合方式等。現在的神經網路與深度學習實際上與人腦的真正機制距離尚遠。
3. 行為主義
行為主義假設智能取決於感知和行動,不需要知識、表示和推理,只需要將智能行為表現出來就好,即只要能實現指物功能就可以認為具有智能了。這一學派的早期代表作是Brooks的六足爬行機器人。
對此,哲學家普特南也設計了一個思想實驗,可以看作是對行為主義的哲學批判,這就是「完美偽裝者和斯巴達人」。完美偽裝者可以根據外在的需求進行完美的表演,需要哭的時候可以哭得讓人撕心裂肺,需要笑的時候可以笑得讓人興高采烈,但是其內心可能始終冷靜如常。斯巴達人則相反,無論其內心是激動萬分還是心冷似鐵,其外在總是一副泰山崩於前而色不變的表情。完美偽裝者和斯巴達人的外在表現都與內心沒有聯系,這樣的智能如何從外在行為進行測試?因此,行為主義路線實現的人工智慧也不等同於人的智能。
對於行為主義路線,其面臨的最大實現困難可以用莫拉維克悖論來說明。所謂莫拉維克悖論,是指對計算機來說困難的問題是簡單的、簡單的問題是困難的,最難以復制的反而是人類技能中那些無意識的技能。目前,模擬人類的行動技能面臨很大挑戰。比如,在網上看到波士頓動力公司人形機器人可以做高難度的後空翻動作,大狗機器人可以在任何地形負重前行,其行動能力似乎非常強。但是這些機器人都有一個大的缺點一能耗過高、噪音過大。大狗機器人原是美國軍方訂購的產品,但因為大狗機器人開動時的聲音在十里之外都能聽到,大大提高了其成為一個活靶子的可能性,使其在戰場上幾乎沒有實用價值,美國軍方最終放棄了采購。

4. 人工智慧之父是誰

圖靈

阿蘭·麥席森·圖靈(Alan Mathison Turing,1912.6.23—1954.6.7),英國數學家、邏輯學家,被稱為人工智慧之父。 1931年圖靈進入劍橋大學國王學院,畢業後到美國普林斯頓大學攻讀博士學位,二戰爆發後回到劍橋,後曾協助軍方破解德國的著名密碼系統Enigma,幫助盟軍取得了二戰的勝利。

阿蘭·麥席森·圖靈,1912年生於英國倫敦,1954年死於英國的曼徹斯特,他是計算機邏輯的奠基者,許多人工智慧的重要方法也源自於這位偉大的科學家。他對計算機的重要貢獻在於他提出的有限狀態自動機也就是圖靈機的概念,對於人工智慧,它提出了重要的衡量標准「圖靈測試」,如果有機器能夠通過圖靈測試,那他就是一個完全意義上的智能機,和人沒有區別了。他傑出的貢獻使他成為計算機界的第一人,現在人們為了紀念這位偉大的科學家將計算機界的最高獎定名為「圖靈獎」。上中學時,他在科學方面的才能就已經顯示出來,這種才能僅僅限於非文科的學科上,他的導師希望這位聰明的孩子也能夠在歷史和文學上有所成就,但是都沒有太大的建樹。少年圖靈感興趣的是數學等學科。在加拿大他開始了他的職業數學生涯,在大學期間這位學生似乎對前人現成的理論並不感興趣,什麼東西都要自己來一次。大學畢業後,他前往美國普林斯頓大學也正是在那裡,他製造出了以後稱之為圖靈機的東西。圖靈機被公認為現代計算機的原型,這台機器可以讀入一系列的零和一,這些數字代表了解決某一問題所需要的步驟,按這個步驟走下去,就可以解決某一特定的問題。這種觀念在當時是具有革命性意義的,因為即使在50年代的時候,大部分的計算機還只能解決某一特定問題,不是通用的,而圖靈機從理論上卻是通用機。在圖靈看來,這台機器只用保留一些最簡單的指令,一個復雜的工作只用把它分解為這幾個最簡單的操作就可以實現了,在當時他能夠具有這樣的思想確實是很了不起的。他相信有一個演算法可以解決大部分問題,而困難的部分則是如何確定最簡單的指令集,怎麼樣的指令集才是最少的,而且又能頂用,還有一個難點是如何將復雜問題分解為這些指令的問題。

1936年,圖靈向倫敦權威的數學雜志投了一篇論文,題為「論數字計算在決斷難題中的應用」。在這篇開創性的論文中,圖靈給「可計算性」下了一個嚴格的數學定義,並提出著名的「圖靈機」(Turing Machine)的設想。「圖靈機」不是一種具體的機器,而是一種思想模型,可製造一種十分簡單但運算能力極強的計算裝置,用來計算所有能想像得到的可計算函數。「圖靈機」與「馮·諾伊曼機」齊名,被永遠載入計算機的發展史中。1950年10月,圖靈又發表了另一篇題為「機器能思考嗎」的論文,成為劃時代之作。也正是這篇文章,為圖靈贏得了「人工智慧之父」的桂冠。

5. 「矽谷精神佈道師」皮埃羅為什麼會認為,人工智慧還是來得太慢了

對話世界人工智慧先驅、「矽谷精神佈道師」皮埃羅·斯加魯菲

皮埃羅·斯加魯菲(PieroScaruffi)是全球人工智慧及認知科學專家,被譽為「矽谷精神佈道師」。是哈佛大學、斯坦福大學、加州伯克利大學客座教授。

皮埃羅·斯加魯菲:先告訴你我的結論,現在的人工智慧研發大概還處於「石器時代」吧。

對於這個問題,你必須明確人們所說的「人工智慧」是什麼,定義的邊界在哪裡?

人工智慧是一個非常迷人的研究領域,我所知道的人工智慧是計算數學(Computational Mathematics)的一個分支。數學才是它真正的本源所在,而且它所應用的數學一點也不難。與我的大學論文所研究的理論物理方程相比,計算數學並沒有那麼復雜。然而不幸的是,它的發展仍處於「石器時代」,人類要見證機器超人工智慧時代的到來還很遙遠。

我認為,「人工智慧」這個詞這么受歡迎,是與其邊界定義模糊,可以帶給人們諸多想像是有關系的。

6. 誰是「人工智慧之父」

1956年夏季,在美國新罕布希爾州的達特莫斯大學,正式以人工智慧為名義的一次創造性聚會標志著人工智慧的誕生。

參加這次聚會的有當時的年輕數學助教、現斯坦福大學教授麥卡錫,以及他的三位朋友:哈佛大學年輕數學和神經學家、現麻省理工學院教授明斯基,IBM以及公司信息研究中心負責人洛切斯特和貝爾試驗室信息部數學研究員香農,還有IBM公司的莫爾和塞繆爾,麻省理工學院的塞爾夫利奇和索羅孟夫,以及蘭德公司和卡內基工科大學的紐厄爾和西蒙等十幾名青年學者。他們舉辦了為期兩個月的夏季學術談論班,討論機器能智問題。經麥卡錫提議,在會上正式使用人工智慧這一術語,從而開創了人工智慧作為一門獨立學科的研究方向。麥卡錫因而被稱為「人工智慧之父」。

7. 「快樂機器」這個思想實驗是為了驗證幸福是否僅僅是一種主觀上的快樂感受,它的提出者是誰

這么偏的東西都有人問,不過幸運的是我恰好知道答案,是羅伯特·諾齊克提出的。他是美裔猶太人,哈佛大學的教授。上世紀著名的哲學家和思想家。
快樂機器源自一個名為「體驗機」的思想實驗,是由哈佛大學哲學教授羅伯特·諾齊克提出的,用以探索享樂主義。
「體驗機」是一種可以提供一個人能想到的所有幸福快樂的機器(並且絕對不會失敗),而一旦將大腦與機器相連,人就完全無法分辨機器製造的幻影和現實生活了。說白點其實有點像黑客帝國或是盜夢空間。
然後問題來了,你願意選擇『進入』體驗機生活嗎?

決定進入「體驗機」的享樂主義者們給出了如下理由:
假設我們人生的最高價值就是盡可能地去獲得幸福快樂。
體驗機可以提供最多最好的幸福快樂。
如果1和2為真,那我們就沒有不接入體驗機的理由。
不過諾齊克本人並不認同這種看法。他覺得人們仍有理由選擇留在現實世界。
諾齊克認為,有價值的是我們「做」了一些事情,留下了一些「存在」,而不單是某些感官體驗。
他說,接入體驗機會使我們失去與真實現實的聯系,讓我只能生活在一個由人工程序創造的、可能性極其有限的膚淺世界之中。而且他認為,接入體驗機在某種意義上是自(找了半天的和諧) 殺,畢竟如果接入機器,就意味著我們脫離了自己被浸泡在膠體溶液中的真實肉體而只剩下一股意識了。要是在那樣一種環境里的話,我們到底是什呢?
從諾齊克的觀點來看,體驗機在某種程度上創造出了虛擬的世界和過虛擬生活的虛擬的人。而我們並非單單只是想體驗為他人所嚮往的感覺、做一個風趣幽默的人的感覺、做一個道德高尚的人的感覺,我們是真的想「做」這些事,想「成為」這樣的人。最後他得出結論,比起幸福快樂,我們更重視那一份真實性。

但毫無疑問地,真實的世界意味著真實的人和環境,也就意味著我們控制不了任何東西,外界輕易就能給我們帶來極大的痛苦和不幸。但諾齊克相信,若能最終收獲一個真實的自我,那麼任何代價都是值得的。
不過,假如我們可以創造出一個稍有不同的體驗機,在裡面你不僅能跟人工智慧交流,也能跟其他真實存在的人交流,那又會怎樣呢?想想看那些角色扮演類的大型網游,比如《魔獸世界》或者《無盡的任務》,裡面的一些角色是人工智慧,另一些則是來自世界各的真實存在的人。這就沒那麼虛擬,而是更加有現實感了。
不過所有玩過網游的人都知道,這種半虛擬半現實的模式會帶來五味雜陳的體驗,既有友誼也有背叛、既有歡笑也有怒火、既有成就也有挫敗。

大概一旦我們將真人引入體驗機系統,也就意味著引入了其他的人格和意志,價值觀和目標,接踵而來的就是混亂和不可預知性,在這種復雜的情況下,我們就必須要為把持和保衛自己的幸福快樂而戰了。我們會從重傷和死亡中生還,因為我們的身體還好好地飄在營養液里,而且我們隨時可以關掉機器,但這樣就不再是享樂主義的烏托邦了。
想像另一種體驗機,這曾在《星際迷航:下一代》中被設想描繪過。公元2364年,人們廣泛使用著一種被稱為「全息甲板」的遊憩設施。在一個房間里,比如一個小型體育館大小的房間,全息影像技術使得人們能夠通過虛擬現實得到從旅店大堂到山脈的任何種類的體驗,而且還完美還原了色聲香味觸等各種感官。就像諾齊克設計的體驗機系統一樣,人們完全無法分辨機器製造的「現實」和真正的現實。
但跟諾齊克所說的大腦直接連入機器獲得體驗,而身體漂浮在溫暖安全的繭中不同,全息甲板是讓一個完整的你(身體上和精神上)享受沒有他人打擾的虛擬現實。你們一夥人離開旅店大堂去登山了,石頭是石頭,朋友抓住你手的觸感也很真實,而且,全息甲板提供了可以啟用或停用的安全協議,也就是說,如果沒有啟用安全協議,一場滑坡可能真的會奪走你或你朋友的性命。

8. 如何看待饒毅的「人工智慧還是偽智能」命題

我也是在看到了Chientung發表在36Kr的一篇名為「生物學家饒毅:AI = Artificial Intelligence,暫時還是偽智能」的文章,才開始注意到饒毅教授的。而後我通過資料查詢,得知其是北京大學終身教授,還曾任北京大學生命科學院院長,現任北京大學理學部主任。

故此,我在一定程度上面是贊同生物學教授饒毅所說的,不做深入研究的「未來學家」都是偽科學家,以及做AI是需要做深入研究的。

9. 哈佛大學出的多元智能發展理論的八大智能是指什麼

八大智能都包括那些
八十年代,美國著名發展心理學家、哈佛大學教授霍華德·加德納博士提出多元智能理論,二十多年來該理論已經廣泛應用於歐美國家和亞洲許多國家的幼兒教育上,並且獲得了極大的成功。霍華德·加德納博士指出,人類的智能是多元化而非單一的,主要是由語言智能、數學邏輯智能、空間智能、身體運動智能、音樂智能、人際智能、自我認知智能、自然認知智能八項組成,每個人都擁有不同的智能優勢組合。
編輯本段八大智能的具體內容
1、語言智能 (Linguistic intelligence) 是指有效的運用口頭語言或及文字表達自己的思想並理解他人,靈活掌握語音、語義、語法,具備用言語思維、用言語表達和欣賞語言深層內涵的能力結合在一起並運用自如的能力。他們適合的職業是:政治活動家,主持人,律師, 演說家, 編輯, 作家, 記者,教師等。 2、數學邏輯智能(Logical-Mathematical intelligence ) 是指有效地計算、測量、推理、歸納、分類,並進行復雜數學運算的能力。這項智能包括對邏輯的方式和關系,陳述和主張,功能及其他相關的抽象概念的敏感性。他們適合的職業是:科學家、會計師、統計學家、工程師、電腦軟體研發人員等。 數字
3、空間智能( Spatial intelligence ) 是指准確感知視覺空間及周周一切事物,並且能把所感覺到的形象以圖畫的形式表現出來的能力。這項智能包括對色彩、線條、形狀、形式、空間關系很敏感。他們適合的職業是:室內設計師、建築師、攝影師、畫家、飛行員等。 4、身體運動智能( Bodily-Kinesthetic intelligence ) 是指善於運用整個身體來表達思想和情感、靈巧地運用雙手製作或操作物體的能力。這項智能包括特殊的身體技巧,如平衡、協調、敏捷、力量、彈性和速度以及由觸覺所引起的能力。他們適合的職業是:運動員、演員、舞蹈家、外科醫生、寶石匠、機械師等。 5、音樂智能( Musical intelligence ) 是指人能夠敏銳地感知音調、旋律、節奏、音色等能力。這項智能對節奏、音調、旋律或音色的敏感性強,與生俱來就擁有音樂的天賦,具有較高的表演、創作及思考音樂的能力。他們適合的職業是:歌唱家、作曲家、指揮家、音樂評論家、調琴師等。 6、人際智能( Interpersonal intelligence) 是指能很好地理解別人和與人交往的能力。這項智能善於察覺他人的情緒、情感,體會他人的感覺感受,辨別不同人際關系的暗示以及對這些暗示做出適當反應的能力。他們適合的職業是:政治家、外交家、領導者、心理咨詢師、公關人員、推銷等。 7、自我認知智能(Intrapersonal intelligence) 是指自我認識和善於自知之明並據此做出適當行為的能力。這項智能能夠認識自己的長處和短處,意識到自己的內在愛好、情緒、意向、脾氣和自尊,喜歡獨立思考的能力。他們適合的職業是:哲學家、政治家、思想家、心理學家等。 8、自然認知智能(Naturalist intelligence) 是指善於觀察自然界中的各種事物,對物體進行辨論和分類的能力。這項智能有著強烈的好奇心和求知慾,有著敏銳的觀察能力,能了解各種事物的細微差別。他們適合的職業是:天文學家、生物學家、地質學家、考古學家、環境設計師等。
具體是針對小孩子的培訓。

10. 哈佛大學人工智慧可以預測地震餘震嗎

近日,來自谷歌人工智慧部門和哈佛大學的研究人員已經建立了一個人工智慧模型,能夠預測大地震後長達一年的餘震位置。該模型訓練了近幾十年來的199次大地震以及之後帶來的13萬次餘震,並發現比目前用於預測餘震的方法更精確。

雖然大多數神經網路都非常難以解釋,有時也被稱為黑匣子,但我認為,因為我們對可能牽涉其中的物理學有了一些概念,所以我們了解到通過彈性傳遞應力是重要的,結論證明我們的結果是可以接受的。我們能夠看到這個模型計算出的結果是有意義的,它實際上為我們指出了一些可能引發地震的不同的物理理論,因此它正引導我們走向一個令人興奮的新方向。

該模型無法對由火山爆發等其他重大自然災害所產生的地震產生影響。

任何機器學習應用,不管神經網路是否具有推理能力,不僅取決於演算法結構,而且取決於它所使用的訓練集,而且我們沒有使用與火山有關的訓練集或諸如此類的東西,所以我們根本沒有理由相信它會對所有的地震預測起作用。

這個模型是利用過去幾年大地震的歷史數據來訓練的,但接下來,會加入將來的地震數據。

熱點內容
四川農業大學申請考核博士 發布:2025-10-20 08:58:11 瀏覽:981
福田雷沃重工本科生待遇怎麼樣 發布:2025-10-20 08:53:49 瀏覽:575
華為要本科生嗎 發布:2025-10-20 08:25:41 瀏覽:550
2008年青島本科生工資 發布:2025-10-20 08:04:24 瀏覽:444
東北大學藝術考研 發布:2025-10-20 07:38:35 瀏覽:299
我的大學生活txt 發布:2025-10-20 07:35:28 瀏覽:25
人民大學外語系考研 發布:2025-10-20 07:31:12 瀏覽:894
上海交通大學考研輔導班 發布:2025-10-20 07:24:54 瀏覽:420
華中農業大學細胞生物學考研群 發布:2025-10-20 07:09:36 瀏覽:558
南京大學2016考研線 發布:2025-10-20 06:43:12 瀏覽:930