① MachineLearning 24. 機器學習之似然增強Cox 比例風險模型篩選變數及預後估計 (CoxBoost)
簡 介
CoxBoost是一種機器學習方法，用於擬合Cox比例風險模型，特別適用於特徵數量龐大的模型。它通過基於組件似然的增強策略，允許在無懲罰參數估計的前提下保留特定的協變數。相比於基於損失函數梯度的梯度增強方法，CoxBoost採用Tutz和Binder(2007)提出的基於偏移量的增強方法，使每個增強步驟中獲得單個參數更新，實現類似lasso的稀疏擬合。
在CoxBoost中，提升步驟數(stepno)和懲罰參數(penalty)是主要的復雜性參數，通過交叉驗證等方法進行選擇。這種方法的靈活性體現在允許無懲罰的強制協變數，以獲得快速系數積累，並對其他協變數施加懲罰。在微陣列分析中，微陣列特徵作為可選協變數，而臨床特徵作為強制協變數，通過設置unpen.index實現。
軟體安裝與數據讀取
數據使用TCGA-LUSC的表達和臨床數據，進行預處理後使用。數據分割遵循標准流程，構建模型時使用CoxBoost函數，並設定關鍵參數，如stepno和penalty。通過交叉驗證優化參數，使用optimCoxBoostPenalty篩選最優penalty，構建最終模型。在模型構建後，使用驗證集驗證模型性能，計算預後風險，進行一致性分析、生存分析和准確性分析，最終通過ROC曲線評估模型。
基於機器學習構建臨床預測模型
機器學習技術在癌症診斷和分子分型中發揮重要作用，包括主成分分析、因子分析、聚類分析、K-鄰近演算法、支持向量機、分類樹、回歸樹、隨機森林、梯度提升演算法、神經網路、隨機森林生存分析等。這些方法通過不同方式提取特徵，優化分類和預測性能，為臨床決策提供支持。
桓峰基因單細胞生信分析免費培訓課程即將開始，歡迎報名。課程內容涵蓋單細胞系列生信分析教程，持續推出，敬請關注桓峰基因公眾號。官網正式上線，提供更多學習資源和咨詢服務。桓峰基因與投必得合作，提供文章潤色服務，使用專屬優惠券碼KYOHOGENE，享受85折優惠。
② vllm代碼走讀(六）--後處理
在vllm的推理流程中，核心步驟包括調度、模型執行以及采樣。這些階段為高效推理提供了基礎。在采樣完成之後，後處理階段成為至關重要的環節，負責處理、分析並最終生成可讀結果。後處理主要包括以下關鍵步驟：
1. **模型輸出處理**：這一步涉及解碼相關輸出，根據模型的`sampling parameters`（如是否使用逐詞搜索）更新調度序列組，並釋放已完成的序列組。最後，它會創建並返回新生成的結果。
2. **序列數據處理**：對調度處理的序列組進行遍歷，更新序列計算的token數量，以及計算prompt的log概率。這一步是確保結果與原始數據一致的關鍵。
3. **prompt數據更新**：處理prompt_logprobs數據結構，確保prompt短句和部分token的更新不影響原始數據與生成結果的對比。通過`detokenize_incrementally`函數實現逐詞解碼。
4. **輸出整理**：將序列數據按照`parent_seq_id`進行分類，釋放空閑資源。生成新的序列，對於每個輸出，添加額外的序列，直到達到所需的數量。同時，實現逐詞解碼邏輯，確保序列的連續性和一致性。
5. **序列終止判斷**：檢查生成的序列是否達到終止條件或長度限制，設置相應的狀態，如完成或長度受限。
6. **資源管理**：對未使用逐詞搜索的序列，進行資源釋放；而使用逐詞搜索時，根據`length_penalty`參數選擇或淘汰序列，確保資源的有效利用。
最後，後處理階段還包括生成請求輸出，以及更新序列組級調度，釋放已完成的序列組，為下一次調度做准備。
通過以上步驟，後處理確保了結果的准確性和效率，最終生成符合預期的輸出，為用戶提供有價值的信息。整個流程設計合理，旨在優化推理過程中的性能和輸出質量。