markov

    12熱度

    4回答

    我想在R中做一個簡單的一階馬爾可夫鏈。我知道有像MCMC這樣的軟件包,但找不到能以圖形方式顯示的軟件包。這甚至有可能嗎?如果給定一個轉換矩陣和一個初始狀態,可以很好地看到馬爾可夫鏈中的路徑(也許我必須手動完成這個操作)。 謝謝。

    30熱度

    4回答

    馬爾可夫鏈模型和隱馬爾可夫模型有什麼區別?我讀過維基百科,但無法理解這些差異。

    0熱度

    1回答

    我正在使用第一步轉換矩陣來生成DNA序列。 現在我需要給出轉換矩陣每1000步改變的概率。我們假設,每1000步,轉換矩陣將有40%的概率發生變化。 更改後每行應加1。 現在我不知道如何訪問python中的嵌套字典數據的值,以及如何實現40%的概率變化。 我重視我的代碼在這裏,任何建議表示讚賞〜 #!/usr/bin/env python import sys, random lengt

    3熱度

    1回答

    我應該想出一個MDP代理,它將策略迭代和值迭代用於賦值,並將其性能與狀態的效用值進行比較。 鑑於MDP代理知道轉換概率和獎勵,它如何知道要採取何種行動? 根據我的理解,MDP代理將執行策略迭代,並根據策略計算在達到終止狀態時獲得的回報。該策略是從值迭代算法開發的。 有人可以提供一些直觀的政策迭代如何工作?

    8熱度

    2回答

    我經歷過的馬爾可夫聚類算法的細節下面的示例工作: http://www.cs.ucsb.edu/~xyan/classes/CS595D-2009winter/MCL_Presentation2.pdf 我覺得我已經準確地代表的算法,但我沒有得到相同的結果至少,本指南正在爲此提供意見。 當前的代碼是: http://jsfiddle.net/methodin/CtGJ9/ 我不知道,也許我剛纔錯過

    -2熱度

    1回答

    我正在編程計算馬爾可夫鏈的極限的一些程序。 如果馬爾可夫矩陣發散,我應該將它轉換爲形式 dA +(1-d)E,其中A和E都是n * n矩陣,並且E的所有元素都是1/n。 但是,如果我在輸入收斂時應用該轉換,則會出現錯誤的值。 有沒有簡單的方法來檢查馬爾可夫矩陣是否收斂?

    11熱度

    3回答

    我已經在Python中實現了簡單馬爾可夫決策過程Wikipedia的值迭代算法。爲了保持特定的馬爾可夫過程的結構(州,動作,轉換,獎勵),並遍歷它,我已經使用了以下數據結構: 字典可用於那些 狀態和動作聲明: SA = { 'state A': {' action 1', 'action 2', ..}, ...} 字典轉移概率: T = {('state A', 'action 1'): {'s

    -1熱度

    1回答

    給定以下參數: λ=(A,B,π)。 甲=狀態轉移矩陣 A = {A [1] [j]的} = {P(狀態Q [I]在t |狀態q [j]的在t + 1)}, B =觀察矩陣和 π=初始分佈。 下面的這句話是正確的嗎? (明確了λ和A之間的關係): a [i] [j] = P(在t |時的狀態q [j]時的狀態q [i])= P(狀態q [i ]在t |狀態q [j]在t + 1,λ) 請一定幫忙!

    1熱度

    1回答

    我豆蔻問題理解概念上隨機寫程序的結構(即需要輸入一個文本文件的形式),並使用馬爾可夫算法來創建一個有點理智的輸出。 所以我使用的數據結構是使用範圍從0到10的情況。在case 0:我在數字字母/符號或數字出現的數字,並根據我的新文本模擬輸入。我已經通過使用一個Map類型來實現這一點,該類型在輸入文本中保存每個唯一的字母,並在文本中包含多少個字母。所以我可以簡單地詢問特定字母的數組大小,並像這樣簡單

    2熱度

    1回答

    我使用馬爾科夫模型創建僞隨機文本生成器。基本上,我使用散列表來存儲順序k(馬爾科夫模型的順序)的子串的列表,然後對於每個子串,我有一個後綴的TreeMap以及它們在整個子串中的頻率。 我正在努力生成隨機後綴。對於每個子字符串,我有一個包含所有可能的後綴及其頻率的TreeMap。我在使用它爲每個後綴創建概率時遇到了麻煩,然後基於這些概率生成了僞隨機後綴。 任何關於這個概念的幫助,以及如何去做這件事表