Transformer正在顛覆AI領域。市面上有這麼平台和Transformer模型,哪些最符合你的需求?《基於GPT-3、ChatGPT、GPT-4等Transformer架構的自然語言處理》將引領你進入Transformer的世界,將講述不同模型和平台的優勢,指出如何消除模型的缺點和問題。本書將引導你使用Hugging Face從頭開始預訓練一個RoBERTa模型,包括構建數據集、定義數據整理器以及訓練模型等。
《基於GPT-3、ChatGPT、GPT-4等Transformer架構的自然語言處理》分步展示如何微調GPT-3等預訓練模型。研究機器翻譯、語音轉文本、文本轉語音、問答等NLP任務,並介紹解決NLP難題的技術,甚至幫助你應對假新聞焦慮(詳見第13章)。從書中可了解到,諸如OpenAI的高級平台將Transformer擴展到語言領域、計算機視覺領域,並允許使用DALL-E 2、ChatGPT和GPT-4生成代碼。通過本書,你將了解到Transformer的工作原理以及如何實施Transformer來決NLP問題。
主要內容:了解用於解決複雜語言問題的新技術;將GPT-3與T5、GPT-2和基於BERT的Transformer的結果進行對比;使用TensorFlow、PyTorch和GPT-3執行情感分析、文本摘要、非正式語言分析、機器翻譯等任務;了解ViT和CLIP如何標注圖像(包括模糊化),並使用DALL-E從文本生成圖像;學習ChatGPT和GPT-4的高級提示工程機制。
[法]丹尼斯·羅斯曼(Denis Rothman),畢業於法國巴黎索邦大學和狄德羅大學,設計了首批獲得專利的編碼和嵌入系統,編寫了首批獲得專利的AI 認知機器人和機器人。他的職業生涯始於為Moet et Chandon 提供NLP(自然語言處理)聊天機器人,併為空中客車公司(前身為Aerospatiale)提供AI 戰術防禦優化器。此後,Denis 為IBM 和奢侈品牌開發了AI資源優化器,並最終發展為在全球範圍內使用的APS(高級規劃和調度)解決方案。