本文假設你是一個剛接觸 web3 的數據分析師,開始組建你的 web3 分析團隊,或者剛剛對 web3 數據產生興趣。無論採用哪種方式,你都應該已經大致熟悉了 APIs、數據庫、轉換和模型在 web2 中的工作方式。本文原文源自於 Andrew Hong 文章《[2022] Guide to Web3 Data: Thinking, Tools, and Teams》,由動區專欄作者 吳說區塊鏈 編譯、整理和撰稿。
(事件背景:深度長文 | Web 3.0 如何解決數據市場中存在的難題?)
(前情提要: 深度理解 Web 3.0:由用戶控制的網路 背景和含義)
在這本指南中,我將盡量簡明扼要地闡述我的三個觀點:
1、思考:為什麽開放的數據渠道會改變數據發揮效用的方式
2、工具:web3 數據棧中的工具概述,以及如何利用它們
3、團隊:web3 數據團隊的基本考慮和技能
數據思考
讓我們先總結一下如何在 web2 中建構、查詢和訪問數據(即訪問 Twitter 的 API)。我們有四個步驟來簡化數據渠道:
1、觸發 API 事件(發送了一些推文)
2、更新到數據庫(連接到現有的用戶模型/狀態更改)
3、特定產品/分析用例的數據轉換
4、模型訓練和部署(用於管理你的 Twitter feed)
當數據是開源的時候,唯一需要的步驟是在轉換完成之後。Kaggle(1,000 個數據科學/特征工程競賽)和 hugs Face(26,000 個頂級 NLP 模型)等社群使用一些公開的數據子集來幫助企業構建更好的模型。有一些特定領域的情況,比如在前面的三個步驟中開放數據的開放街道地圖,但是它們仍然有寫權限的限制。
我想聲明的是,我只是在這裡談論數據,我並不是說 web2 完全沒有開源。
像大多數其他的工程角色一樣,web2 數據有大量的開源工具來構建他們的管道(dbt, apache, TensorFlow)。我們仍然在 web3 中使用所有這些工具。
總之,他們的工具是開放的,但他們的數據是封閉的。
Web3 也將數據開源,這意味著不再只有數據科學家在開放環境下工作,分析工程師和數據工程師也在開放環境下工作!每個人都參與到一個更連續的工作流程中,而不是一個幾乎是黑盒的數據循環。
工作的形式已經從 web2 數據大壩到 web3 數據河流、三角洲和海洋。同樣重要的是需要注意,生態系統中的所有產品都會同時受到這個循環的影響。
讓我們看一個 web3 分析師如何一起工作的例子。有幾十家交易所使用不同的交易機制和費用,允許你將代幣 A 交換為代幣 B。
如果這些是典型的交易所,如納斯達克,每個交易所將報告自己的數據在 10k 或一些 API,然後其他一些服務,比如 capIQ,會把所有交換數據放在一起,然後收取費用,讓你訪問他們的 API。
也許有時候,他們會舉辦一次創新競賽,這樣他們就可以在未來收取額外的數據/圖表功能。
在 web3 交易所中,我們有這樣的數據流:
1、dex.trades 是 Dune 上的一個表格(由許多社區分析工程師隨著時間的推移整理而成),所有的 DEX 交換數據都被聚合在一起,所以你可以很容易地在所有交易所中搜索單個代幣的交易量。
2、一名數據分析師透過社群開源查詢創建了一個儀表板,所以現在我們對整個 DEX 行業有了一個公開的概述。即使所有的查詢看起來都是由一個人寫的,你可以猜測這是在discord上經過大量的爭論,才準確地將其拼湊在一起得。
3、DAO 科學家查看儀表板,並開始在他們自己的查詢中分割數據,查看特定的對,比如穩定幣。他們會觀察用戶行為和商業模式,然後開始建立假設。由於科學家可以看到哪個 DEX 在交易量中占據了更大的份額,他們將提出一個新的模型,並提議改變治理參數,以便在鏈上進行投票和執行。
4、之後,我們可以隨時查看公眾查詢/儀表板,看看提案如何創造出更具競爭力的產品。
5、在未來,如果另一個 DEX 出現(或升級到一個新版本),這個過程將重覆。有人將創建插入查詢來更新這個表。這將反過來反映在所有的儀表板和模型(沒有任何人必須回去和手動修覆/更改任何東西)。任何其他分析師/科學家都可以以別人已經完成的工作為基礎。
由於共享的生態系統,討論、協作和學習在一個更緊密的反饋循環中發生。我承認這有時會讓人難以承受,我認識的分析師基本上都在輪換數據耗盡。然而,只要我們中的一個人繼續推動數據向前(例如,某人創建了插入 DEX 查詢),那麽其他人都會受益。
它並不總是必須是覆雜的抽象視圖,有時它只是實用功能,如使它容易搜索 ENS 反向解析器或工具的改進,如自動生成大多數 graphQL 映射與一個 CLI 命令!
所有這些都可以被每個人重用,並且可以在某些產品前端或您自己的個人交易模型中進行 API 的使用。
雖然這裡開啟的可能性是驚人的,我確實承認,輪子還沒有平穩地運行。與數據工程相比,數據分析師/科學領域的生態系統仍然很不成熟。我認為有以下幾個原因:
數據工程是 web3 多年來的核心焦點,從客戶端 RPC API 的改進到基本的 SQL/graphQL 聚合。像 theGraph 和 Dune 這樣的產品就是他們在這方面所付出努力的例證。
對於分析師來說,要理解 web3 獨特的跨協議關系表是非常困難的。例如,分析人員可以理解如何只分析 Uniswap,但卻很難在混合中添加聚合器、其他 DEXs 和不同的代幣類型。
最重要的是,實現這一切的工具直到去年才真正出現。數據科學家通常習慣於收集原始數據並獨自完成所有的工作(建立他們自己的管道)。
我認為他們不習慣在開發初期與分析師和工程師進行如此密切和公開的合作。對我個人來說,這花了一段時間。
除了學習如何協同工作之外,web3 數據社群還在學習如何跨這個新的數據堆棧工作。
你不再需要控制基礎設施,或者慢慢地從 excel 構建到數據池或數據倉庫,只要你的產品上線,你的數據就會到處上線。
你的團隊基本上是被扔到了數據基礎設施的最深處。
數據工具
下面我們看看每種類型以及用法:
1、互動+數據源:這主要用於前端、錢包和較低層次的數據攝取。
1.1、客戶端:雖然以太坊的底層實現是相同的,但每個客戶端都有不同的額外特性。例如,Erigon 對數據儲存/同步進行了大量優化,Quorum 支持隱私鏈。
1.2、節點即服務:你不必選擇運行哪個客戶端,但使用這些服務將為你節省維護節點和 API 正常運行的麻煩。節點的覆雜性取決於你想要捕獲多少數據(輕節點→全節點→歸檔節點)。
2、查詢+數據映射:這一層中的數據要麼作為 URI 在合約中引用,要麼來自使用合約 ABI 將交易數據從位元組映射到表模式。合約 ABI 告訴我們合約中包含哪些函數和事件,否則,我們只能看到部署的位元組碼(沒有這個 ABI,你無法反向工程/解碼合約交易)。
2.1、交易數據:這些是最常用的,主要用於儀表板和報告。theGraph 和 Flipside API 也在前端中使用。有些表是合約的 1:1 映射,有些表允許模式中額外的轉換。
2.2、元數據「協議」:這些並不是真正的數據產品,而是用於儲存 DIDs 或文件儲存的。大多數 NFT 將使用其中的一個或多個數據源,我認為今年我們將開始越來越多地使用這些數據源來增強我們的查詢。
2.3、專業提供商:其中一些是非常健壯的數據流產品,Blocknative 用於 mempool 數據,Parsec 用於鏈上交易數據。其他的聚合鏈上和鏈外數據,比如 DAO 治理或國庫數據。
2.4、高維度數據提供商:你不能查詢/轉換他們的數據,但是他們已經幫你完成了所有繁重的工作。
如果沒有強大的、傑出的社群來配合這些工具,web3 就不會出現!我們可以看到每種類型對應的傑出社群:
1、Flashbots:專注於 MEV 上,提供從保護交易的自定義 RPC 到專業白帽服務的所有事宜。MEV 主要指的是槍跑問題,當有人支付比你更多的 Gas(但直接給礦商),這樣他們就可以搶先執行他們的交易。
2、Dune 數據精英:專注於為 Dune 的數據生態做貢獻的數據分析精英。
3、Flipside 數據精英:專注於為 Web3 數據升天做貢獻的數據分析精英。
4、MetricsDAO:跨生態工作,處理多個鏈上的各種數據獎勵。
5、DiamondDAO:專注於 Stellar 的數據科學工作,主要在治理、財政庫以及代幣管理方面。
6、IndexCoop:專注於代幣等特定領域的分析,以制定加密貨幣行業最好的指數。
7、OurNetwork:每週對各類協議以及 Web3 的數據覆蓋。
注:以上 DAO 的參與聯系方式詳情請看原文。
每個社群都做了大量的工作來改善 web3 的生態系統。毫無疑問,擁有社群的產品將以 100 倍的速度成長。這仍然是一個被嚴重低估的競爭優勢,我認為除非人們在這些社群中建立了一些東西,否則他們不會獲得這個優勢。
數據團隊
不用說,你也應該在這些社群中尋找可以加入你的團隊的人。讓我們進一步分析重要的 web3 數據技能和經驗,這樣你就能真正知道你在搜索什麽。如果你想被聘請,把這看作是你追求的技能和經驗!
至少,分析師應該是 Etherscan 偵探,知道如何閱讀 Dune 儀表盤。這可能需要 1 個月的時間來適應悠閒的學習,如果你真的要瘋狂學習,則需要 2 周的時間。
除此之外,你還需要考慮更多的內容,特別是時間分配和技能轉移。
1、時間方面:在 web3 中,數據分析師大約有 30-40% 的時間將花在與生態系統中的其他分析師和協議保持同步上。請確保你不會氣暈他們,否則,這將成為對每個人的長期損害。與更大的數據社群一起學習、貢獻和構建是必要的。
2、可轉移性方面:在這個領域,技能和領域都是高度可轉移的。如果使用不同的協議,可能會減少上手時間,因為鏈上數據的表模式都是一樣的。
記住,知道如何使用這些工具並不重要,每個分析師或多或少都應該會寫 SQL 或創建數據儀表盤。這一切都是關於如何做出貢獻並與社群合作。如果你正在面試的人不是任何 web3 數據社群的一員(而且似乎對這一塊沒有任何興趣),你可能要問問自己這是否是一個危險訊號。
📍相關報導📍
傳奇創投|a16z 提案 Web 3 十大監管原則、呼籲當局接受私人穩定幣
擊敗太極門!幣安向《富比士》戰略投資 2 億美元,助其發展 Web 3 基建
富比士2022預測 : Web 3將讓「未來就業市場」出現3大巨變 – 自主權、DAO、學賺模型
讓動區 Telegram 新聞頻道再次強大!!立即加入獲得第一手區塊鏈、加密貨幣新聞報導。
LINE 與 Messenger 不定期為大家服務