圓桌論壇一

    楊靈修：各位嘉賓好，進(jìn)入第一個(gè)圓桌環(huán)節(jié)，主題為“智變·新治理—快時(shí)代需要怎樣的慢思考”。在我自己的公司國(guó)聯(lián)民生，我們花了大量的精力去研究AI對(duì)于各個(gè)行業(yè)的改變，或者說(shuō)是“沖擊”。我們能夠深刻感受到這可能是人類(lèi)有史以來(lái)最大的，或者說(shuō)是我們自己經(jīng)歷的最大的技術(shù)變革。

    這次圓桌主角是五位嘉賓，是各個(gè)領(lǐng)域在第一線(xiàn)的真正參與到業(yè)務(wù)上的掌門(mén)人、操刀者。我們想通過(guò)他們的視角來(lái)聽(tīng)一聽(tīng)AI在他們各自的領(lǐng)域，發(fā)生了什么樣的變化。首先還是請(qǐng)各位嘉賓簡(jiǎn)單介紹一下自己的公司，也可以介紹一下自己。

    張?jiān)拦悍浅８吲d來(lái)參加圓桌論壇，我來(lái)自三未信安科技股份有限公司，是科創(chuàng)板上市公司，我們聚焦于商用密碼領(lǐng)域，在AI時(shí)代還是web3領(lǐng)域，密碼越來(lái)越重要，我們深耕密碼，希望能夠讓數(shù)字世界更安全。

    張躍：我來(lái)自于北京浩瀚深度，公司主要做的是大網(wǎng)安全，比如三大運(yùn)營(yíng)商和政府的一些服務(wù)。另外我們公司還負(fù)責(zé)跟信通院一塊合作網(wǎng)站異地備案，未來(lái)在AI備案方面做一些工作，另外還提供企業(yè)連鎖店的一些Agent或者智能體的接入服務(wù)。

    孟凡勇：我是達(dá)力普控股有限公司的孟凡勇。達(dá)力普控股是在香港上市的公司，代碼是1921。主要從事的行業(yè)是服務(wù)于油氣田開(kāi)發(fā)的裝備制造企業(yè)，有兩個(gè)生產(chǎn)基地，一個(gè)是河北滄州生產(chǎn)基地，一個(gè)是沙特阿曼正在建的生產(chǎn)基地。主要從事的業(yè)務(wù)圍繞油氣田，公司是從中石油改制出來(lái)的一個(gè)企業(yè)。

    黃偉：我是云知聲的黃偉，我們公司是一個(gè)真正研究開(kāi)發(fā)人工智能技術(shù)的，去年在香港上市的公司。在近期會(huì)發(fā)布最新的一版原生Agent大模型，基于更強(qiáng)的大模型，能夠給現(xiàn)有的客戶(hù)提供更好的產(chǎn)品和解決方案。

    今年還會(huì)做一個(gè)新的突破，2023年發(fā)布第一版大模型，前幾年更多是把大模型作為產(chǎn)品里面的組成部分。今年通過(guò)龍蝦熱，看到模型能力有了突飛猛進(jìn)的進(jìn)展，今年也會(huì)把模型能力開(kāi)放出來(lái)，面向C端用戶(hù)或者小B用戶(hù)，希望大家關(guān)注。

    潘成龍：我是遠(yuǎn)東資信的潘成龍，遠(yuǎn)東資信是1988年由人民銀行推動(dòng)成立的，我們國(guó)家第一家社會(huì)化的信用評(píng)級(jí)機(jī)構(gòu)，有將近40年的歷史。我們也是全國(guó)7家有全牌照評(píng)級(jí)資質(zhì)的信用評(píng)級(jí)機(jī)構(gòu)之一。這些年我們聚焦金融五篇大文章，一直也在服務(wù)包括科技金融在內(nèi)的評(píng)級(jí)業(yè)務(wù)。

    今天在座很多都是上市公司，我們公司專(zhuān)門(mén)也設(shè)有上市公司評(píng)級(jí)業(yè)務(wù)部。同時(shí)我們也針對(duì)今天的主題—AI大模型，推出了AI企業(yè)的評(píng)級(jí)模型。從這個(gè)角度上來(lái)講，信用評(píng)級(jí)行業(yè)包括遠(yuǎn)東資信也是積極擁抱AI，積極擁抱人工智能時(shí)代。

    后續(xù)希望為大家提供更好的信用評(píng)級(jí)服務(wù)，也提供更多的信用評(píng)級(jí)方面的支持和信息的交流。

    楊靈修：謝謝潘總，在座的五位都是來(lái)自不同領(lǐng)域的企業(yè)領(lǐng)軍人物代表。在座的各位可能跟我一樣，標(biāo)題叫做快時(shí)代，AI代表了一種快速迭代的時(shí)代。但是在這個(gè)時(shí)代里面，大家來(lái)這里一個(gè)是學(xué)習(xí)AI怎么改變，更加重要的是帶有一絲焦慮，下一步是不是自己被顛覆了？我想大家都有這一方面的考慮。

    在這么一個(gè)快時(shí)代，也要做一些慢思考。首先有請(qǐng)兩位張總，正好是北郵的同學(xué)，都是在信息安全領(lǐng)域深耕很久。先請(qǐng)問(wèn)兩位張總，在這個(gè)快速的時(shí)代，包括在自己的領(lǐng)域，在信息安全領(lǐng)域，AI怎么改變你們做的一些業(yè)務(wù)？從你們掌控公司的角度來(lái)看，我們?cè)趺床拍懿槐贿@個(gè)快時(shí)代所裹脅，我們應(yīng)該怎么去做一些冷靜的思考，或者可以給我們提供一些案例。因?yàn)檫@些更深層次的思考，反而讓我的業(yè)務(wù)在AI時(shí)代可能走的比別人更加穩(wěn)健？

    張?jiān)拦含F(xiàn)在進(jìn)入人工智能時(shí)代，對(duì)社會(huì)和各個(gè)公司改變很大，我們都要用人工智能。您剛才說(shuō)的，我覺(jué)得人有時(shí)候也是需要慢下來(lái)思考的。去年人工智能猛烈興起的時(shí)候，公司內(nèi)部年輕人員也是要加快應(yīng)用人工智能。密碼是安全的基石，我們是做密碼的公司，人工智能也是一個(gè)數(shù)據(jù)系統(tǒng)，而且它面臨的安全需求更大，因?yàn)榇嫒说乃伎迹鏇Q策能力更強(qiáng)，我們一定要考慮它的安全。我們自己是做安全的，如果自己不想明白它，怎么去給用戶(hù)推薦安全方案呢？當(dāng)時(shí)我們剎了一個(gè)車(chē)，認(rèn)真的研究大模型里面的安全問(wèn)題，我們自己經(jīng)過(guò)幾個(gè)月，還出了一個(gè)白皮書(shū)，首先在內(nèi)部避免了一些風(fēng)險(xiǎn)，避免了一些公司的風(fēng)險(xiǎn)。把密碼在每個(gè)環(huán)節(jié)做了白皮書(shū)完整的方案，推薦給用戶(hù)，也起到了很好的作用。

    楊靈修：演講嘉賓也提到了現(xiàn)在一些大模型竟然能夠有頂級(jí)黑客的能力，都沒(méi)有發(fā)生漏洞，它都能發(fā)現(xiàn)。您是做密鑰安全的，在這里面是不是會(huì)有一些業(yè)務(wù)的機(jī)會(huì)在里面？

    張?jiān)拦嚎隙ǖ?，人工智能在賦能我們，我們也要用人工智能的技術(shù)。當(dāng)然我們認(rèn)為發(fā)現(xiàn)漏洞，它是網(wǎng)絡(luò)安全的一種技術(shù)，我覺(jué)得現(xiàn)在大語(yǔ)言模型對(duì)編程的理解，這一方面肯定是一個(gè)革命性的飛躍，肯定要用這種技術(shù)。

    密碼還有一點(diǎn)不同，密碼也是一種算力，有時(shí)候我們認(rèn)為信息系統(tǒng)有連接、思考、信任，我們是建立信任的。安全和發(fā)展是一體兩翼，人工智能未來(lái)越來(lái)越強(qiáng)大，但是人工智能最后一定要掌握在人手里，要為人所用。密碼就是那個(gè)韁繩，密碼的定義就是對(duì)數(shù)據(jù)的改變，在數(shù)據(jù)的生命周期里從云、邊、端，保護(hù)隱私數(shù)據(jù)，數(shù)據(jù)的溯源，數(shù)據(jù)的清潔都有一些技術(shù)可以用。一方面要用人工智能來(lái)分析算法，更是要把密碼技術(shù)作為一個(gè)好的基石和工具，來(lái)用好人工智能。

    楊靈修：非常感謝張總。剛才提到了未來(lái)的一種形態(tài)，每個(gè)人有一個(gè)Agent，這種人機(jī)共存的環(huán)境里，怎么能夠真正做到信息安全？

    張躍：我除了是浩瀚深度董事長(zhǎng)之外，還有一個(gè)社會(huì)的職務(wù)，就是整個(gè)生產(chǎn)力促進(jìn)中心智能體互聯(lián)網(wǎng)分會(huì)的主任，AI來(lái)了，時(shí)代為什么快了？因?yàn)锳I會(huì)重構(gòu)社會(huì)的方方面面，各行各業(yè)。重構(gòu)意味著財(cái)富的重新分配，功能的重新分配。

    第二個(gè)方面，智能體跟人什么關(guān)系，大家不要感覺(jué)到很恐懼，AI也是一個(gè)工具。人機(jī)協(xié)同，這個(gè)關(guān)系是不能改變的，幾位在文章里發(fā)表了叫駕馭工程，英文叫（harness），人永遠(yuǎn)是主人，AI永遠(yuǎn)是仆。自動(dòng)駕駛還得人駕馭，只不過(guò)從肢體跟車(chē)輛協(xié)同，變成了意識(shí)和意念，甚至語(yǔ)言來(lái)駕馭它，不是它自己能跑了，不是它自己能編代碼，還得靠人類(lèi)駕馭。如果搞不懂這個(gè)關(guān)系，除了恐懼還有什么？這個(gè)在應(yīng)用當(dāng)中是非常重要的一個(gè)認(rèn)知。AI的安全方面，比如說(shuō)開(kāi)車(chē)，人第一件事要先拿駕照，先培訓(xùn)，人工智能也是一樣，得先拿證，拿本，先培訓(xùn)。龍蝦現(xiàn)在到處在用，確實(shí)很好用，就像電動(dòng)自行車(chē)沒(méi)有本，亂到什么程度，這都有類(lèi)比的。如果把這件事搞清楚就會(huì)慢下來(lái)。比如說(shuō)做反詐，已經(jīng)全面人工智能化了。汽車(chē)本身的安全，行業(yè)本身的安全，大多數(shù)人不要去考慮，這是我們的責(zé)任，汽車(chē)發(fā)動(dòng)機(jī)不安全了，輪胎不安全了，剎車(chē)不安全了，我認(rèn)為人工智能行業(yè)之所以這么火，原因就在于它真的掌控了下一個(gè)時(shí)代，或者正在發(fā)生的大的功能上的變革，各行各業(yè)的重構(gòu)。

    在中國(guó)生產(chǎn)力促進(jìn)中心智能體方面，我也呼吁慢下來(lái)，先把最關(guān)鍵，最不能錯(cuò)的，原則性的東西搞明白，搞懂，AI一定是人類(lèi)發(fā)展的一個(gè)新的增長(zhǎng)周期，此時(shí)此刻它的速度是我們過(guò)去難以想象的。

    楊靈修：張總對(duì)這個(gè)行業(yè)有非常深的思考。接下來(lái)請(qǐng)孟主席，你是在制造行業(yè)，在快速迭代的時(shí)代，制造行業(yè)怎么去利用AI？給我們分享一下。

    孟凡勇：我來(lái)自制造企業(yè)，題目是快時(shí)代，慢思考，AI智能發(fā)展和應(yīng)用是一日千里，發(fā)展非常迅猛，人人在關(guān)心，大家都在想著怎么用?？鞎r(shí)代我們必須得趕上，在趕上的同時(shí)，如果是找不到切入點(diǎn)，不想好怎么去應(yīng)用，可能對(duì)企業(yè)來(lái)講有毀滅性的打擊。這個(gè)本身不是AI技術(shù)和應(yīng)用的問(wèn)題，而是我們沒(méi)有慢慢的想好怎么去用。

    為什么這么講？因?yàn)槲覀冎佬袠I(yè)不是今天才開(kāi)始，而是傳統(tǒng)已經(jīng)多少年已經(jīng)延續(xù)下來(lái)的，從一些傳統(tǒng)的制造方式到一些自動(dòng)化的生產(chǎn)模式，再到引進(jìn)的一些先進(jìn)的設(shè)備。這種情況下，如果不好好的想好從生產(chǎn)線(xiàn)、制造能力整體去規(guī)劃，怎么從現(xiàn)有的指導(dǎo)模式，怎么應(yīng)用AI技術(shù)，怎么逐步去轉(zhuǎn)型，這是非常危險(xiǎn)的，它會(huì)導(dǎo)致一些不匹配，員工的不適應(yīng)。甚至?xí)斐少|(zhì)量上的風(fēng)險(xiǎn)，成本上的風(fēng)險(xiǎn)。

    所以，我們應(yīng)該循序漸進(jìn)去應(yīng)用，去轉(zhuǎn)型，首先我們要有一個(gè)規(guī)劃，從現(xiàn)有的到AI慢慢想好，怎么去趕上這個(gè)時(shí)代AI技術(shù)的應(yīng)用。

    第二，分步去實(shí)施，逐步去應(yīng)用。

    第三，哪些使用，怎么去轉(zhuǎn)型。從合規(guī)的體系建設(shè)，怎么去設(shè)定邊界，怎么做好管理的底座，促使企業(yè)快速的轉(zhuǎn)型和應(yīng)用。謝謝！

    楊靈修：黃總做的就是AI，怎么在快速迭代的時(shí)代里，或者跟得上，或者需要什么樣的慢思考？

    黃偉：我們自己是做這個(gè)行業(yè)的，包括我們自己也做模型訓(xùn)練，我覺(jué)得快是必須要快，企業(yè)的競(jìng)爭(zhēng)也很重要。我們做的每一版模型，都是能力上有質(zhì)的差別。我自己本身有這種恐懼感，如果在2022年底之前，人工智能技術(shù)發(fā)展還是線(xiàn)性的，OpenAI發(fā)布ChatGPT之后，發(fā)展速度進(jìn)入到指數(shù)級(jí)的，后面還會(huì)進(jìn)一步的加快，今年年底我也不知道AI會(huì)發(fā)展什么樣的程度，快是必然性。

    不是說(shuō)所有的行業(yè)，或者說(shuō)所有的崗位都是這么快，全面的不顧一切用AI來(lái)改變。我們?cè)趦?nèi)部崗位做梳理，我們?nèi)珕T都AI寫(xiě)代碼了，要學(xué)會(huì)怎么使用AI。能掌握AI的人才才有競(jìng)爭(zhēng)力，而不是重復(fù)花時(shí)間寫(xiě)代碼的員工，很多人沒(méi)有意識(shí)到AI的生產(chǎn)力，有一個(gè)朋友是做游戲引擎的，通常用六個(gè)月的時(shí)間才發(fā)一個(gè)版本，去年一個(gè)月能發(fā)2000個(gè)版本。他告訴我一個(gè)數(shù)字，給AI使用特別好的工程師每個(gè)月配8萬(wàn)美元的token，產(chǎn)生的效率今年會(huì)更恐怖。每個(gè)月token要消耗大幾千萬(wàn)元人民幣，很多行業(yè)開(kāi)始積極的使用AI，掌握AI。

    前者是技術(shù)進(jìn)步的快，時(shí)代要求的快，后者是說(shuō)可能看行業(yè)，看崗位，這個(gè)相當(dāng)慢。慢的過(guò)程中，給了我們一些時(shí)間去深度思考，接下來(lái)在快速演進(jìn)的AI時(shí)代，行業(yè)應(yīng)該怎么發(fā)展，職業(yè)怎么去協(xié)作，最終目的希望能夠更順利的擁抱AI時(shí)代，作為企業(yè)，能夠在AI時(shí)代利用AI，創(chuàng)造更大的價(jià)值，而不是簡(jiǎn)單的為了AI而AI，或者很果斷拒絕AI。

    楊靈修：黃總自己是做AI公司，AI對(duì)于人腦來(lái)說(shuō)確實(shí)迭代非?？?。其實(shí)我們的腦子跟一千年前的孔子沒(méi)有太大的區(qū)別，但AI不一樣，AI的腦子今年跟明年就會(huì)差很多，可以想象到一千年之后的樣子，未來(lái)的空間不敢想象。

    最后請(qǐng)潘成龍總分享一下他的行業(yè)。

    潘成龍：今天圓桌的主題選得非常好，就是快和慢的辨證關(guān)系，信用評(píng)級(jí)行業(yè)習(xí)慣去思考模型，思考邏輯。我們?yōu)槭裁磿?huì)選這個(gè)主題？它的邏輯在哪？使我想起了德國(guó)有一位著名的社會(huì)學(xué)家叫馬克斯韋伯，他提出的一個(gè)理論叫價(jià)值理性和工具理性的理論。他講人的社會(huì)行為一般是受兩種理性支配的，一個(gè)是價(jià)值理性，一個(gè)是工具理性。我從這個(gè)角度解釋可以解釋得通，就是我們?yōu)槭裁匆伎糀I大模型快和慢的問(wèn)題。

    首先從工具的角度來(lái)講，剛才幾位也說(shuō)了如果AI是一個(gè)工具，我認(rèn)為在AI的研發(fā)、中試、實(shí)驗(yàn)階段，我們一定要想得快，做得快，只有這樣，才能不落后于時(shí)代。在價(jià)值的層面，我覺(jué)得可能是重點(diǎn)要思考我們能不能快的問(wèn)題，這就是剛才黃總講到的要分行業(yè)，分崗位的對(duì)待這個(gè)問(wèn)題。

    在一些純工具性的或者不會(huì)對(duì)社會(huì)、對(duì)人類(lèi)造成一些危害的領(lǐng)域，我覺(jué)得要很快的去應(yīng)用。但是對(duì)于社會(huì)，對(duì)于人類(lèi)，包括對(duì)于人本身會(huì)造成一些影響，或者我們看不到影響的情況下，我們要慢下來(lái)思考。

    我講跟評(píng)級(jí)無(wú)關(guān)的體會(huì)，就是AI寫(xiě)作的問(wèn)題，我有兩個(gè)孩子，現(xiàn)在孩子文學(xué)的創(chuàng)造力在下降，我就在想李白生活在AI時(shí)代還能不能成為李白，還能不能寫(xiě)出千古傳唱的，膾炙人口的詩(shī)篇。AI用的很熟練，但是他們寫(xiě)出來(lái)的東西可能很難看，特別流行用AI寫(xiě)詩(shī)，寫(xiě)賦，寫(xiě)出來(lái)的東西沒(méi)有任何的靈性。所以在這一方面要慢。

    涉及到評(píng)級(jí)行業(yè)，也是價(jià)值理性和工具理性平衡的問(wèn)題，評(píng)級(jí)作為資本市場(chǎng)的一個(gè)基礎(chǔ)設(shè)施，評(píng)級(jí)質(zhì)量的高低，評(píng)級(jí)等級(jí)的高低，直接決定了融資體量，融資風(fēng)險(xiǎn)的高低，也是具有強(qiáng)烈外部性的行業(yè)，具有強(qiáng)烈監(jiān)管的行業(yè)。所以快也快不了，因?yàn)楸O(jiān)管規(guī)定了很多的條條框框，從評(píng)級(jí)分析師進(jìn)場(chǎng)到出報(bào)告，短于45天的周期都會(huì)受到監(jiān)管的問(wèn)責(zé)。但是從評(píng)級(jí)報(bào)告寫(xiě)作過(guò)程中，當(dāng)你在具備充足的私域數(shù)據(jù)，我覺(jué)得用AI生成報(bào)告是非?？斓?，但是這里面必須保證數(shù)據(jù)的來(lái)源真實(shí)性和準(zhǔn)確性，能經(jīng)得起檢驗(yàn)的。從這個(gè)角度來(lái)說(shuō)，評(píng)級(jí)行業(yè)也在出一些標(biāo)準(zhǔn)，標(biāo)準(zhǔn)先行是一個(gè)正確的道路。我們必須對(duì)評(píng)級(jí)行業(yè)數(shù)據(jù)的采集，大模型的應(yīng)用，所有的技術(shù)行業(yè)有統(tǒng)一的標(biāo)準(zhǔn)，只有這樣才能夠保證這個(gè)行業(yè)的公信力。所以從快和慢的角度，我也結(jié)合價(jià)值和工具理性的理解，簡(jiǎn)單談了談。

    楊靈修：非常感謝潘總，剛才五位在一線(xiàn)公司的掌門(mén)人，都對(duì)AI怎么去理解它，或者在浮躁的情況下，能夠更加深刻的認(rèn)知它真正能做的事情，提出自己的一些深刻的見(jiàn)解和看法。

    再次感謝五位嘉賓給我們帶來(lái)的精彩分享。謝謝！