今天小編分享的互聯網經驗:海天瑞聲:大模型高質量數據需要高質量人工支持,歡迎閱讀。
海天瑞聲董事長賀琳近日接受媒體采訪時表示,大模型高質量數據的提供,需要高質量人工的支持。同時,數據的清洗和标注流程對于模型的質量至關重要,它們可以提高數據的質量和準确性,幫助模型更好地去學習,也為模型的評估奠定了一個很好的基礎。
據每經報道,海天瑞聲是國内最早投入 AI 訓練數據的專業服務商之一,2023 年,不斷翻湧的大模型浪潮将這家公司推至資本市場的聚光燈下。而身處潮水之中,賀琳對未來的思考依舊謹慎。
對預期審慎樂觀
ChatGPT 的出現,讓這家數據公司突然站到了資本市場舞台中央。2023 年初,賀琳在海天瑞聲公司年會上的發言稿,80% 由 ChatGPT 完成。開年以來,海天瑞聲股價一路走高,3 月一度漲至 191.96 元 / 股,較其 2021 年 8 月上市時翻了一番。
而海天瑞聲方面,則已多次在投資者互動平台發布提示,稱公司與 OpenAI 沒有合作,也尚不能預期大模型業務将帶來多少收入。賀琳認為,合适的入局時機應該是當這項技術能夠真正在行業中落地的時候,這意味着其有真正的應用場景,而非偽場景。
同時,當行業落地時刻到來,數據的需求量也會迎來大規模提升。4 月 18 日,海天瑞聲正式推出其專為自動駕駛場景設計的全棧式數據标注平台 "DOTS-AD 自動駕駛标注平台 "。
差距依舊存在
賀琳曾就職于中國科學院聲學研究所,從事語音識别、語音合成、漢語語言理解、語音心理測試等方面的研究工作,成立于 2005 年的海天瑞聲,最初誕生于賀琳在這份工作中捕捉到的行業痛點。
随着技術的發展,智能語音從實驗室走向大規模應用階段,更多場景的覆蓋需求,意味着數據需求随之大規模增加。與此同時,在與一些就職于大型企業或研究機構的前同事交流時,賀琳發現,大家都在關注數據的問題。
時至今日,賀琳覺得,彼時促使她創業的瓶頸依舊存在。在她看來,數據的需求是跟着技術的發展而變化的,随着技術在各個行業中落地,就會有更多的數據需求爆發。
賀琳稱,現在很多人都認為,數據差距是一個造成系統性差距的非常重要的原因,所以大家認為數據還是很重要的要素,這個瓶頸依然存在。不同的是,自己創業之初,國内競争對手少,海天瑞聲得以在市場快速突圍。而如今,國内已經出現一批新的數據公司,先發優勢成為當下數據公司核心競争力的基礎。
龐大參數支撐
海量數據如何最終成功支撐起龐大參數的大模型運行?答案就是數據集。賀琳介紹,數據集的產生是一個非常復雜的過程,其中包括設計階段、采集階段、處理階段以及最後的質檢階段。
在設計環節,需要先去了解數據集是為了解決哪個問題,這個問題需要什麼樣的數據,需要多大的量,需要什麼樣的場景,以及采集的樣本、規模、内容,包括采集的設備、标注的規範等等;采集環節則是按照設計的方案,到大千世界采集,有可能是聲音,有可能是影像、圖片,又或是手寫的字、道路的場景。
采集完成後則需要進入清洗、标注環節。最後生產出的數據集需要通過雙層的質檢流程,最終才能生產出一個合格的數據集。這其中,清洗規則的好壞、标注的準确性都會極大地影響數據集的質量,進而影響模型的效果。
賀琳舉例說,海天瑞聲的大模型數據清洗率是 5%,即清洗出來正确的數據僅僅占原數據的 5%,這也印證了數據清洗環節的重要性。而标注的流程則主要是解決準确性和一致性問題。
賀琳認為,高質量的數據包括了數據的豐富度,場景的豐富度,數據的準确性、一致性等,這都是衡量高質量數據的标準。她也認同,高質量數據的提供,需要高質量人工的支持。
來源:Donews