import{s as aM,f as MM,o as hM,n as Yl}from"../chunks/scheduler.37c15a92.js";import{S as iM,i as cM,g as u,s as M,r as U,A as pM,h as T,f as n,c as h,j as Ee,u as o,x as d,k as gl,y as yM,a as s,v as m,t as p,b as Il,d as c,w as J,p as _l}from"../chunks/index.2bf4358c.js";import{T as El}from"../chunks/Tip.363c041f.js";import{Y as Xe}from"../chunks/Youtube.1e50a667.js";import{C as g}from"../chunks/CodeBlock.4e987730.js";import{D as eM}from"../chunks/DocNotebookDropdown.efc1fb7c.js";import{F as rM}from"../chunks/FrameworkSwitchCourse.8d4d4ab6.js";import{H as Fl,E as UM}from"../chunks/index.b8688d36.js";function oM(C){let e,r;return e=new eM({props:{classNames:"absolute z-10 right-0 top-0",options:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/vi/chapter7/section3_tf.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/vi/chapter7/section3_tf.ipynb"}]}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function mM(C){let e,r;return e=new eM({props:{classNames:"absolute z-10 right-0 top-0",options:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/vi/chapter7/section3_pt.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/vi/chapter7/section3_pt.ipynb"}]}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function JM(C){let e,r='🙋 Nếu các thuật ngữ “mô hình ngôn ngữ bị ẩn đi” và “mô hình huấn luyện trước” nghe có vẻ xa lạ với bạn, hãy xem <a href="/course/chapter1">Chương 1</a>, nơi chúng tôi giải thích tất cả các khái niệm cốt lõi này, kèm theo video!';return{c(){e=u("p"),e.innerHTML=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-1sqdf5b"&&(e.innerHTML=r)},m(a,y){s(a,e,y)},p:Yl,d(a){a&&n(e)}}}function uM(C){let e,r="Hãy tiếp tục và tải xuống DistilBERT bằng cách sử dụng lớp <code>AutoModelForMaskedLM</code>:",a,y,_,b,Z="Chúng ta có thể xem mô hình này có bao nhiêu tham số bằng cách gọi phương thức <code>summary()</code>:",V,j,v,R,B;return y=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMFRGQXV0b01vZGVsRm9yTWFza2VkTE0lMEElMEFtb2RlbF9jaGVja3BvaW50JTIwJTNEJTIwJTIyZGlzdGlsYmVydC1iYXNlLXVuY2FzZWQlMjIlMEFtb2RlbCUyMCUzRCUyMFRGQXV0b01vZGVsRm9yTWFza2VkTE0uZnJvbV9wcmV0cmFpbmVkKG1vZGVsX2NoZWNrcG9pbnQp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> TFAutoModelForMaskedLM

model_checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased&quot;</span>
model = TFAutoModelForMaskedLM.from_pretrained(model_checkpoint)`,wrap:!1}}),j=new g({props:{code:"bW9kZWwobW9kZWwuZHVtbXlfaW5wdXRzKSUyMCUyMCUyMyUyMFglQzMlQTJ5JTIwZCVFMSVCQiVCMW5nJTIwbSVDMyVCNCUyMGglQzMlQUNuaCUwQW1vZGVsLnN1bW1hcnkoKQ==",highlighted:`model(model.dummy_inputs)  <span class="hljs-comment"># Xây dựng mô hình</span>
model.summary()`,wrap:!1}}),R=new g({props:{code:"TW9kZWwlM0ElMjAlMjJ0Zl9kaXN0aWxfYmVydF9mb3JfbWFza2VkX2xtJTIyJTBBX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX18lMEFMYXllciUyMCh0eXBlKSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyME91dHB1dCUyMFNoYXBlJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwUGFyYW0lMjAlMjMlMjAlMjAlMjAlMEElM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlMEFkaXN0aWxiZXJ0JTIwKFRGRGlzdGlsQmVydE1haW4lMjBtdWx0aXBsZSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMDY2MzYyODgwJTIwJTIwJTBBX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX18lMEF2b2NhYl90cmFuc2Zvcm0lMjAoRGVuc2UpJTIwJTIwJTIwJTIwJTIwJTIwbXVsdGlwbGUlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjA1OTA1OTIlMjAlMjAlMjAlMjAlMEFfX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fXyUwQXZvY2FiX2xheWVyX25vcm0lMjAoTGF5ZXJOb3JtYSUyMG11bHRpcGxlJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwMTUzNiUyMCUyMCUyMCUyMCUyMCUyMCUwQV9fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fJTBBdm9jYWJfcHJvamVjdG9yJTIwKFRGRGlzdGlsQmVyJTIwbXVsdGlwbGUlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAyMzg2NjE3MCUyMCUyMCUwQSUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUwQVRvdGFsJTIwcGFyYW1zJTNBJTIwNjYlMkM5ODUlMkM1MzAlMEFUcmFpbmFibGUlMjBwYXJhbXMlM0ElMjA2NiUyQzk4NSUyQzUzMCUwQU5vbi10cmFpbmFibGUlMjBwYXJhbXMlM0ElMjAwJTBBX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX18=",highlighted:`Model: <span class="hljs-string">&quot;tf_distil_bert_for_masked_lm&quot;</span>
_________________________________________________________________
Layer (<span class="hljs-built_in">type</span>)                 Output Shape              Param <span class="hljs-comment">#   </span>
=================================================================
distilbert (TFDistilBertMain multiple                  <span class="hljs-number">66362880</span>  
_________________________________________________________________
vocab_transform (Dense)      multiple                  <span class="hljs-number">590592</span>    
_________________________________________________________________
vocab_layer_norm (LayerNorma multiple                  <span class="hljs-number">1536</span>      
_________________________________________________________________
vocab_projector (TFDistilBer multiple                  <span class="hljs-number">23866170</span>  
=================================================================
Total params: <span class="hljs-number">66</span>,<span class="hljs-number">985</span>,<span class="hljs-number">530</span>
Trainable params: <span class="hljs-number">66</span>,<span class="hljs-number">985</span>,<span class="hljs-number">530</span>
Non-trainable params: <span class="hljs-number">0</span>
_________________________________________________________________`,wrap:!1}}),{c(){e=u("p"),e.innerHTML=r,a=M(),U(y.$$.fragment),_=M(),b=u("p"),b.innerHTML=Z,V=M(),U(j.$$.fragment),v=M(),U(R.$$.fragment)},l(w){e=T(w,"P",{"data-svelte-h":!0}),d(e)!=="svelte-h97v97"&&(e.innerHTML=r),a=h(w),o(y.$$.fragment,w),_=h(w),b=T(w,"P",{"data-svelte-h":!0}),d(b)!=="svelte-1j3qfbw"&&(b.innerHTML=Z),V=h(w),o(j.$$.fragment,w),v=h(w),o(R.$$.fragment,w)},m(w,k){s(w,e,k),s(w,a,k),m(y,w,k),s(w,_,k),s(w,b,k),s(w,V,k),m(j,w,k),s(w,v,k),m(R,w,k),B=!0},i(w){B||(c(y.$$.fragment,w),c(j.$$.fragment,w),c(R.$$.fragment,w),B=!0)},o(w){p(y.$$.fragment,w),p(j.$$.fragment,w),p(R.$$.fragment,w),B=!1},d(w){w&&(n(e),n(a),n(_),n(b),n(V),n(v)),J(y,w),J(j,w),J(R,w)}}}function TM(C){let e,r="Hãy tiếp tục và tải xuống DistilBERT bằng cách sử dụng lớp <code>AutoModelForMaskedLM</code>:",a,y,_,b,Z="Chúng ta có thể xem mô hình này có bao nhiêu tham số bằng cách gọi phương thức <code>num_parameters()</code>:",V,j,v,R,B;return y=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Nb2RlbEZvck1hc2tlZExNJTBBJTBBbW9kZWxfY2hlY2twb2ludCUyMCUzRCUyMCUyMmRpc3RpbGJlcnQtYmFzZS11bmNhc2VkJTIyJTBBbW9kZWwlMjAlM0QlMjBBdXRvTW9kZWxGb3JNYXNrZWRMTS5mcm9tX3ByZXRyYWluZWQobW9kZWxfY2hlY2twb2ludCk=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForMaskedLM

model_checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased&quot;</span>
model = AutoModelForMaskedLM.from_pretrained(model_checkpoint)`,wrap:!1}}),j=new g({props:{code:"ZGlzdGlsYmVydF9udW1fcGFyYW1ldGVycyUyMCUzRCUyMG1vZGVsLm51bV9wYXJhbWV0ZXJzKCklMjAlMkYlMjAxXzAwMF8wMDAlMEFwcmludChmJTIyJyUzRSUzRSUzRSUyMERpc3RpbEJFUlQlMjBudW1iZXIlMjBvZiUyMHBhcmFtZXRlcnMlM0ElMjAlN0Jyb3VuZChkaXN0aWxiZXJ0X251bV9wYXJhbWV0ZXJzKSU3RE0nJTIyKSUwQXByaW50KGYlMjInJTNFJTNFJTNFJTIwQkVSVCUyMG51bWJlciUyMG9mJTIwcGFyYW1ldGVycyUzQSUyMDExME0nJTIyKQ==",highlighted:`distilbert_num_parameters = model.num_parameters() / <span class="hljs-number">1_000_000</span>
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; DistilBERT number of parameters: <span class="hljs-subst">{<span class="hljs-built_in">round</span>(distilbert_num_parameters)}</span>M&#x27;&quot;</span>)
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; BERT number of parameters: 110M&#x27;&quot;</span>)`,wrap:!1}}),R=new g({props:{code:"JyUzRSUzRSUzRSUyMERpc3RpbEJFUlQlMjBudW1iZXIlMjBvZiUyMHBhcmFtZXRlcnMlM0ElMjA2N00nJTBBJyUzRSUzRSUzRSUyMEJFUlQlMjBudW1iZXIlMjBvZiUyMHBhcmFtZXRlcnMlM0ElMjAxMTBNJw==",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; DistilBERT number of parameters: 67M&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; BERT number of parameters: 110M&#x27;</span>`,wrap:!1}}),{c(){e=u("p"),e.innerHTML=r,a=M(),U(y.$$.fragment),_=M(),b=u("p"),b.innerHTML=Z,V=M(),U(j.$$.fragment),v=M(),U(R.$$.fragment)},l(w){e=T(w,"P",{"data-svelte-h":!0}),d(e)!=="svelte-h97v97"&&(e.innerHTML=r),a=h(w),o(y.$$.fragment,w),_=h(w),b=T(w,"P",{"data-svelte-h":!0}),d(b)!=="svelte-b2q5z3"&&(b.innerHTML=Z),V=h(w),o(j.$$.fragment,w),v=h(w),o(R.$$.fragment,w)},m(w,k){s(w,e,k),s(w,a,k),m(y,w,k),s(w,_,k),s(w,b,k),s(w,V,k),m(j,w,k),s(w,v,k),m(R,w,k),B=!0},i(w){B||(c(y.$$.fragment,w),c(j.$$.fragment,w),c(R.$$.fragment,w),B=!0)},o(w){p(y.$$.fragment,w),p(j.$$.fragment,w),p(R.$$.fragment,w),B=!1},d(w){w&&(n(e),n(a),n(_),n(b),n(V),n(v)),J(y,w),J(j,w),J(R,w)}}}function dM(C){let e,r;return e=new g({props:{code:"aW1wb3J0JTIwbnVtcHklMjBhcyUyMG5wJTBBaW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEElMEFpbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIodGV4dCUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIybnAlMjIpJTBBdG9rZW5fbG9naXRzJTIwJTNEJTIwbW9kZWwoKippbnB1dHMpLmxvZ2l0cyUwQSUyMyUyMFQlQzMlQUNtJTIwdiVFMSVCQiU4QiUyMHRyJUMzJUFEJTIwJTVCTUFTSyU1RCUyMHYlQzMlQTAlMjB0ciVDMyVBRGNoJTIweHUlRTElQkElQTV0JTIwbG9naXQlMEFtYXNrX3Rva2VuX2luZGV4JTIwJTNEJTIwbnAuYXJnd2hlcmUoaW5wdXRzJTVCJTIyaW5wdXRfaWRzJTIyJTVEJTIwJTNEJTNEJTIwdG9rZW5pemVyLm1hc2tfdG9rZW5faWQpJTVCMCUyQyUyMDElNUQlMEFtYXNrX3Rva2VuX2xvZ2l0cyUyMCUzRCUyMHRva2VuX2xvZ2l0cyU1QjAlMkMlMjBtYXNrX3Rva2VuX2luZGV4JTJDJTIwJTNBJTVEJTBBJTIzJTIwUENoJUUxJUJCJThEbiUyMCVFMSVCQiVBOW5nJTIwdmklQzMlQUFuJTIwY2hvJTIwJTVCTUFTSyU1RCUyMHYlRTElQkIlOUJpJTIwbG9naXQlMjBjYW8lMjBuaCVFMSVCQSVBNXQlMEElMjMlMjBDaCVDMyVCQW5nJTIwdGElMjBwaCVFMSVCQiVBNyUyMCVDNCU5MSVFMSVCQiU4Qm5oJTIwbSVFMSVCQSVBM25nJTIwdHIlQzYlQjAlRTElQkIlOUJjJTIwYXJnc29ydCUyMCVDNCU5MSVFMSVCQiU4MyUyMGwlRTElQkElQTV5JTIwbG9naXRzJTIwbCVFMSVCQiU5Qm4lMjBuaCVFMSVCQSVBNXQlMjBjaCVFMSVCQiVBOSUyMGtoJUMzJUI0bmclMjBwaCVFMSVCQSVBM2klMjBuaCVFMSVCQiU4RiUyMG5oJUUxJUJBJUE1dCUwQXRvcF81X3Rva2VucyUyMCUzRCUyMG5wLmFyZ3NvcnQoLW1hc2tfdG9rZW5fbG9naXRzKSU1QiUzQTUlNUQudG9saXN0KCklMEElMEFmb3IlMjB0b2tlbiUyMGluJTIwdG9wXzVfdG9rZW5zJTNBJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiUzRSUzRSUzRSUyMCU3QnRleHQucmVwbGFjZSh0b2tlbml6ZXIubWFza190b2tlbiUyQyUyMHRva2VuaXplci5kZWNvZGUoJTVCdG9rZW4lNUQpKSU3RCUyMik=",highlighted:`<span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np
<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf

inputs = tokenizer(text, return_tensors=<span class="hljs-string">&quot;np&quot;</span>)
token_logits = model(**inputs).logits
<span class="hljs-comment"># Tìm vị trí [MASK] và trích xuất logit</span>
mask_token_index = np.argwhere(inputs[<span class="hljs-string">&quot;input_ids&quot;</span>] == tokenizer.mask_token_id)[<span class="hljs-number">0</span>, <span class="hljs-number">1</span>]
mask_token_logits = token_logits[<span class="hljs-number">0</span>, mask_token_index, :]
<span class="hljs-comment"># PChọn ứng viên cho [MASK] với logit cao nhất</span>
<span class="hljs-comment"># Chúng ta phủ định mảng trước argsort để lấy logits lớn nhất chứ không phải nhỏ nhất</span>
top_5_tokens = np.argsort(-mask_token_logits)[:<span class="hljs-number">5</span>].tolist()

<span class="hljs-keyword">for</span> token <span class="hljs-keyword">in</span> top_5_tokens:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; <span class="hljs-subst">{text.replace(tokenizer.mask_token, tokenizer.decode([token]))}</span>&quot;</span>)`,wrap:!1}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function wM(C){let e,r;return e=new g({props:{code:"aW1wb3J0JTIwdG9yY2glMEElMEFpbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIodGV4dCUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIycHQlMjIpJTBBdG9rZW5fbG9naXRzJTIwJTNEJTIwbW9kZWwoKippbnB1dHMpLmxvZ2l0cyUwQSUyMyUyMFQlQzMlQUNtJTIwdiVFMSVCQiU4QiUyMHRyJUMzJUFEJTIwJTVCTUFTSyU1RCUyMHYlQzMlQTAlMjB0ciVDMyVBRGNoJTIweHUlRTElQkElQTV0JTIwbG9naXQlMEFtYXNrX3Rva2VuX2luZGV4JTIwJTNEJTIwdG9yY2gud2hlcmUoaW5wdXRzJTVCJTIyaW5wdXRfaWRzJTIyJTVEJTIwJTNEJTNEJTIwdG9rZW5pemVyLm1hc2tfdG9rZW5faWQpJTVCMSU1RCUwQW1hc2tfdG9rZW5fbG9naXRzJTIwJTNEJTIwdG9rZW5fbG9naXRzJTVCMCUyQyUyMG1hc2tfdG9rZW5faW5kZXglMkMlMjAlM0ElNUQlMEElMjMlMjBDaCVFMSVCQiU4RG4lMjAlRTElQkIlQTluZyUyMHZpJUMzJUFBbiUyMGNobyUyMCU1Qk1BU0slNUQlMjB2JUUxJUJCJTlCaSUyMGxvZ2l0JTIwY2FvJTIwbmglRTElQkElQTV0JTBBdG9wXzVfdG9rZW5zJTIwJTNEJTIwdG9yY2gudG9wayhtYXNrX3Rva2VuX2xvZ2l0cyUyQyUyMDUlMkMlMjBkaW0lM0QxKS5pbmRpY2VzJTVCMCU1RC50b2xpc3QoKSUwQSUwQWZvciUyMHRva2VuJTIwaW4lMjB0b3BfNV90b2tlbnMlM0ElMEElMjAlMjAlMjAlMjBwcmludChmJTIyJyUzRSUzRSUzRSUyMCU3QnRleHQucmVwbGFjZSh0b2tlbml6ZXIubWFza190b2tlbiUyQyUyMHRva2VuaXplci5kZWNvZGUoJTVCdG9rZW4lNUQpKSU3RCclMjIp",highlighted:`<span class="hljs-keyword">import</span> torch

inputs = tokenizer(text, return_tensors=<span class="hljs-string">&quot;pt&quot;</span>)
token_logits = model(**inputs).logits
<span class="hljs-comment"># Tìm vị trí [MASK] và trích xuất logit</span>
mask_token_index = torch.where(inputs[<span class="hljs-string">&quot;input_ids&quot;</span>] == tokenizer.mask_token_id)[<span class="hljs-number">1</span>]
mask_token_logits = token_logits[<span class="hljs-number">0</span>, mask_token_index, :]
<span class="hljs-comment"># Chọn ứng viên cho [MASK] với logit cao nhất</span>
top_5_tokens = torch.topk(mask_token_logits, <span class="hljs-number">5</span>, dim=<span class="hljs-number">1</span>).indices[<span class="hljs-number">0</span>].tolist()

<span class="hljs-keyword">for</span> token <span class="hljs-keyword">in</span> top_5_tokens:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; <span class="hljs-subst">{text.replace(tokenizer.mask_token, tokenizer.decode([token]))}</span>&#x27;&quot;</span>)`,wrap:!1}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function bM(C){let e,r="✏️ <strong>Thử nghiệm thôi!</strong> Tạo ra các mẫu ngẫu nhiền từ phần <code>phi giám sát</code> và kiểm định xem nhãn của chúng là <code>0</code> hay <code>1</code>. Khi đang ở đó, bạn cũng có thể kiểm tra xem các nhãn trong phần <code>huấn luyện</code> và <code>kiểm thử</code> có thực sử là <code>0</code> hoặc <code>1</code> không — đây là một phần kiểm tra hữu ích mànhững nhà NLP nên thực hiện đầu dự án!.";return{c(){e=u("p"),e.innerHTML=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-17qlatx"&&(e.innerHTML=r)},m(a,y){s(a,e,y)},p:Yl,d(a){a&&n(e)}}}function gM(C){let e,r='✏️ <strong>Thử nghiệm thôi!</strong> Một số mô hình Transformer, như<a href="https://huggingface.co/google/bigbird-roberta-base" rel="nofollow">BigBird</a> và <a href="hf.co/allenai/longformer-base-4096">Longformer</a>,có độ dài ngữ cảnh dài hơn nhiều so với BERT và các mô hình Transformer đời đầu khác. Khởi tạo tokenizer cho một trong những checkpoint và xác minh rằng <code>model_max_length</code> tương ứng với những gì được trích dẫn trên thẻ mô hình của nó.';return{c(){e=u("p"),e.innerHTML=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-yk1c6a"&&(e.innerHTML=r)},m(a,y){s(a,e,y)},p:Yl,d(a){a&&n(e)}}}function jM(C){let e,r="Lưu ý rằng việc sử dụng kích thước phân đoạn nhỏ có thể gây bất lợi trong các tình huống thực tế, vì vậy bạn nên sử dụng kích thước tương ứng với trường hợp sử dụng mà bạn sẽ áp dụng mô hình của mình.";return{c(){e=u("p"),e.textContent=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-19s97e2"&&(e.textContent=r)},m(a,y){s(a,e,y)},p:Yl,d(a){a&&n(e)}}}function fM(C){let e,r="✏️ <strong>Thử nghiệm thôi!</strong> Chạy đoạn mã trên vài lần để xem việc che ngẫu nhiên diễn ra ngay trước mắt bạn! Đồng thời  thử thay thế phương thức <code>tokenizer.decode()</code> bằng <code>tokenizer.convert_ids_to_tokens()</code> để thấy rằng đôi khi một token từ một từ nhất định bị che, chứ không phải những cái khác.";return{c(){e=u("p"),e.innerHTML=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-1iwtc3f"&&(e.innerHTML=r)},m(a,y){s(a,e,y)},p:Yl,d(a){a&&n(e)}}}function tM(C){let e,r="Một tác dụng phụ của việc che ngẫu nhiên là các chỉ số đánh giá của chúng ta sẽ không xác định khi sử dụng <code>Trainer</code>, vì chúng ta sử dụng cùng một công cụ đối chiếu dữ liệu cho các tập huấn luyện và kiểm thủ. Chúng ta sẽ thấy ở phần sau, khi chúng ta xem xét việc tinh chỉnh với 🤗 Accelerate, chúng ta có thể sử dụng tính linh hoạt của vòng đánh giá tùy chỉnh như thế nào để đóng băng tính ngẫu nhiên.";return{c(){e=u("p"),e.innerHTML=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-402agz"&&(e.innerHTML=r)},m(a,y){s(a,e,y)},d(a){a&&n(e)}}}function CM(C){let e,r;return e=new g({props:{code:"aW1wb3J0JTIwY29sbGVjdGlvbnMlMEFpbXBvcnQlMjBudW1weSUyMGFzJTIwbnAlMEElMEFmcm9tJTIwdHJhbnNmb3JtZXJzLmRhdGEuZGF0YV9jb2xsYXRvciUyMGltcG9ydCUyMHRmX2RlZmF1bHRfZGF0YV9jb2xsYXRvciUwQSUwQXd3bV9wcm9iYWJpbGl0eSUyMCUzRCUyMDAuMiUwQSUwQSUwQWRlZiUyMHdob2xlX3dvcmRfbWFza2luZ19kYXRhX2NvbGxhdG9yKGZlYXR1cmVzKSUzQSUwQSUyMCUyMCUyMCUyMGZvciUyMGZlYXR1cmUlMjBpbiUyMGZlYXR1cmVzJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwd29yZF9pZHMlMjAlM0QlMjBmZWF0dXJlLnBvcCglMjJ3b3JkX2lkcyUyMiklMEElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjMlMjBUJUUxJUJBJUExbyUyMHJhJTIwJUMzJUExbmglMjB4JUUxJUJBJUExJTIwZ2klRTElQkIlQUZhJTIwYyVDMyVBMWMlMjB0JUUxJUJCJUFCJTIwdiVDMyVBMCUyMGNoJUUxJUJCJTg5JTIwbSVFMSVCQiVBNWMlMjB0b2tlbiUyMHQlQzYlQjAlQzYlQTFuZyUyMCVFMSVCQiVBOW5nJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbWFwcGluZyUyMCUzRCUyMGNvbGxlY3Rpb25zLmRlZmF1bHRkaWN0KGxpc3QpJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwY3VycmVudF93b3JkX2luZGV4JTIwJTNEJTIwLTElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBjdXJyZW50X3dvcmQlMjAlM0QlMjBOb25lJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZm9yJTIwaWR4JTJDJTIwd29yZF9pZCUyMGluJTIwZW51bWVyYXRlKHdvcmRfaWRzKSUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGlmJTIwd29yZF9pZCUyMGlzJTIwbm90JTIwTm9uZSUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGlmJTIwd29yZF9pZCUyMCElM0QlMjBjdXJyZW50X3dvcmQlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBjdXJyZW50X3dvcmQlMjAlM0QlMjB3b3JkX2lkJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwY3VycmVudF93b3JkX2luZGV4JTIwJTJCJTNEJTIwMSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG1hcHBpbmclNUJjdXJyZW50X3dvcmRfaW5kZXglNUQuYXBwZW5kKGlkeCklMEElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjMlMjBDaGUlMjBuZyVFMSVCQSVBQnUlMjBuaGklRTElQkIlODFuJTIwdCVFMSVCQiVBQiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG1hc2slMjAlM0QlMjBucC5yYW5kb20uYmlub21pYWwoMSUyQyUyMHd3bV9wcm9iYWJpbGl0eSUyQyUyMChsZW4obWFwcGluZyklMkMpKSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGlucHV0X2lkcyUyMCUzRCUyMGZlYXR1cmUlNUIlMjJpbnB1dF9pZHMlMjIlNUQlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBsYWJlbHMlMjAlM0QlMjBmZWF0dXJlJTVCJTIybGFiZWxzJTIyJTVEJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbmV3X2xhYmVscyUyMCUzRCUyMCU1Qi0xMDAlNUQlMjAqJTIwbGVuKGxhYmVscyklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmb3IlMjB3b3JkX2lkJTIwaW4lMjBucC53aGVyZShtYXNrKSU1QjAlNUQlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjB3b3JkX2lkJTIwJTNEJTIwd29yZF9pZC5pdGVtKCklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmb3IlMjBpZHglMjBpbiUyMG1hcHBpbmclNUJ3b3JkX2lkJTVEJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbmV3X2xhYmVscyU1QmlkeCU1RCUyMCUzRCUyMGxhYmVscyU1QmlkeCU1RCUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGlucHV0X2lkcyU1QmlkeCU1RCUyMCUzRCUyMHRva2VuaXplci5tYXNrX3Rva2VuX2lkJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZmVhdHVyZSU1QiUyMmxhYmVscyUyMiU1RCUyMCUzRCUyMG5ld19sYWJlbHMlMEElMEElMjAlMjAlMjAlMjByZXR1cm4lMjB0Zl9kZWZhdWx0X2RhdGFfY29sbGF0b3IoZmVhdHVyZXMp",highlighted:`<span class="hljs-keyword">import</span> collections
<span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np

<span class="hljs-keyword">from</span> transformers.data.data_collator <span class="hljs-keyword">import</span> tf_default_data_collator

wwm_probability = <span class="hljs-number">0.2</span>


<span class="hljs-keyword">def</span> <span class="hljs-title function_">whole_word_masking_data_collator</span>(<span class="hljs-params">features</span>):
    <span class="hljs-keyword">for</span> feature <span class="hljs-keyword">in</span> features:
        word_ids = feature.pop(<span class="hljs-string">&quot;word_ids&quot;</span>)

        <span class="hljs-comment"># Tạo ra ánh xạ giữa các từ và chỉ mục token tương ứng</span>
        mapping = collections.defaultdict(<span class="hljs-built_in">list</span>)
        current_word_index = -<span class="hljs-number">1</span>
        current_word = <span class="hljs-literal">None</span>
        <span class="hljs-keyword">for</span> idx, word_id <span class="hljs-keyword">in</span> <span class="hljs-built_in">enumerate</span>(word_ids):
            <span class="hljs-keyword">if</span> word_id <span class="hljs-keyword">is</span> <span class="hljs-keyword">not</span> <span class="hljs-literal">None</span>:
                <span class="hljs-keyword">if</span> word_id != current_word:
                    current_word = word_id
                    current_word_index += <span class="hljs-number">1</span>
                mapping[current_word_index].append(idx)

        <span class="hljs-comment"># Che ngẫu nhiền từ</span>
        mask = np.random.binomial(<span class="hljs-number">1</span>, wwm_probability, (<span class="hljs-built_in">len</span>(mapping),))
        input_ids = feature[<span class="hljs-string">&quot;input_ids&quot;</span>]
        labels = feature[<span class="hljs-string">&quot;labels&quot;</span>]
        new_labels = [-<span class="hljs-number">100</span>] * <span class="hljs-built_in">len</span>(labels)
        <span class="hljs-keyword">for</span> word_id <span class="hljs-keyword">in</span> np.where(mask)[<span class="hljs-number">0</span>]:
            word_id = word_id.item()
            <span class="hljs-keyword">for</span> idx <span class="hljs-keyword">in</span> mapping[word_id]:
                new_labels[idx] = labels[idx]
                input_ids[idx] = tokenizer.mask_token_id
        feature[<span class="hljs-string">&quot;labels&quot;</span>] = new_labels

    <span class="hljs-keyword">return</span> tf_default_data_collator(features)`,wrap:!1}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function IM(C){let e,r;return e=new g({props:{code:"aW1wb3J0JTIwY29sbGVjdGlvbnMlMEFpbXBvcnQlMjBudW1weSUyMGFzJTIwbnAlMEElMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwZGVmYXVsdF9kYXRhX2NvbGxhdG9yJTBBJTBBd3dtX3Byb2JhYmlsaXR5JTIwJTNEJTIwMC4yJTBBJTBBJTBBZGVmJTIwd2hvbGVfd29yZF9tYXNraW5nX2RhdGFfY29sbGF0b3IoZmVhdHVyZXMpJTNBJTBBJTIwJTIwJTIwJTIwZm9yJTIwZmVhdHVyZSUyMGluJTIwZmVhdHVyZXMlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjB3b3JkX2lkcyUyMCUzRCUyMGZlYXR1cmUucG9wKCUyMndvcmRfaWRzJTIyKSUwQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMyUyMFQlRTElQkElQTFvJTIwcmElMjAlQzMlQTFuaCUyMHglRTElQkElQTElMjBnaSVFMSVCQiVBRmElMjBjJUMzJUExYyUyMHQlRTElQkIlQUIlMjB2JUMzJUEwJTIwY2glRTElQkIlODklMjBtJUUxJUJCJUE1YyUyMHRva2VuJTIwdCVDNiVCMCVDNiVBMW5nJTIwJUUxJUJCJUE5bmclMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBtYXBwaW5nJTIwJTNEJTIwY29sbGVjdGlvbnMuZGVmYXVsdGRpY3QobGlzdCklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBjdXJyZW50X3dvcmRfaW5kZXglMjAlM0QlMjAtMSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGN1cnJlbnRfd29yZCUyMCUzRCUyME5vbmUlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmb3IlMjBpZHglMkMlMjB3b3JkX2lkJTIwaW4lMjBlbnVtZXJhdGUod29yZF9pZHMpJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwaWYlMjB3b3JkX2lkJTIwaXMlMjBub3QlMjBOb25lJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwaWYlMjB3b3JkX2lkJTIwISUzRCUyMGN1cnJlbnRfd29yZCUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGN1cnJlbnRfd29yZCUyMCUzRCUyMHdvcmRfaWQlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBjdXJyZW50X3dvcmRfaW5kZXglMjAlMkIlM0QlMjAxJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbWFwcGluZyU1QmN1cnJlbnRfd29yZF9pbmRleCU1RC5hcHBlbmQoaWR4KSUwQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMyUyMENoZSUyMG5nJUUxJUJBJUFCdSUyMG5oaSVFMSVCQiU4MW4lMjB0JUUxJUJCJUFCJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbWFzayUyMCUzRCUyMG5wLnJhbmRvbS5iaW5vbWlhbCgxJTJDJTIwd3dtX3Byb2JhYmlsaXR5JTJDJTIwKGxlbihtYXBwaW5nKSUyQykpJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwaW5wdXRfaWRzJTIwJTNEJTIwZmVhdHVyZSU1QiUyMmlucHV0X2lkcyUyMiU1RCUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGxhYmVscyUyMCUzRCUyMGZlYXR1cmUlNUIlMjJsYWJlbHMlMjIlNUQlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBuZXdfbGFiZWxzJTIwJTNEJTIwJTVCLTEwMCU1RCUyMColMjBsZW4obGFiZWxzKSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZvciUyMHdvcmRfaWQlMjBpbiUyMG5wLndoZXJlKG1hc2spJTVCMCU1RCUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMHdvcmRfaWQlMjAlM0QlMjB3b3JkX2lkLml0ZW0oKSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZvciUyMGlkeCUyMGluJTIwbWFwcGluZyU1QndvcmRfaWQlNUQlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBuZXdfbGFiZWxzJTVCaWR4JTVEJTIwJTNEJTIwbGFiZWxzJTVCaWR4JTVEJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwaW5wdXRfaWRzJTVCaWR4JTVEJTIwJTNEJTIwdG9rZW5pemVyLm1hc2tfdG9rZW5faWQlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlJTVCJTIybGFiZWxzJTIyJTVEJTIwJTNEJTIwbmV3X2xhYmVscyUwQSUwQSUyMCUyMCUyMCUyMHJldHVybiUyMGRlZmF1bHRfZGF0YV9jb2xsYXRvcihmZWF0dXJlcyk=",highlighted:`<span class="hljs-keyword">import</span> collections
<span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np

<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> default_data_collator

wwm_probability = <span class="hljs-number">0.2</span>


<span class="hljs-keyword">def</span> <span class="hljs-title function_">whole_word_masking_data_collator</span>(<span class="hljs-params">features</span>):
    <span class="hljs-keyword">for</span> feature <span class="hljs-keyword">in</span> features:
        word_ids = feature.pop(<span class="hljs-string">&quot;word_ids&quot;</span>)

        <span class="hljs-comment"># Tạo ra ánh xạ giữa các từ và chỉ mục token tương ứng</span>
        mapping = collections.defaultdict(<span class="hljs-built_in">list</span>)
        current_word_index = -<span class="hljs-number">1</span>
        current_word = <span class="hljs-literal">None</span>
        <span class="hljs-keyword">for</span> idx, word_id <span class="hljs-keyword">in</span> <span class="hljs-built_in">enumerate</span>(word_ids):
            <span class="hljs-keyword">if</span> word_id <span class="hljs-keyword">is</span> <span class="hljs-keyword">not</span> <span class="hljs-literal">None</span>:
                <span class="hljs-keyword">if</span> word_id != current_word:
                    current_word = word_id
                    current_word_index += <span class="hljs-number">1</span>
                mapping[current_word_index].append(idx)

        <span class="hljs-comment"># Che ngẫu nhiền từ</span>
        mask = np.random.binomial(<span class="hljs-number">1</span>, wwm_probability, (<span class="hljs-built_in">len</span>(mapping),))
        input_ids = feature[<span class="hljs-string">&quot;input_ids&quot;</span>]
        labels = feature[<span class="hljs-string">&quot;labels&quot;</span>]
        new_labels = [-<span class="hljs-number">100</span>] * <span class="hljs-built_in">len</span>(labels)
        <span class="hljs-keyword">for</span> word_id <span class="hljs-keyword">in</span> np.where(mask)[<span class="hljs-number">0</span>]:
            word_id = word_id.item()
            <span class="hljs-keyword">for</span> idx <span class="hljs-keyword">in</span> mapping[word_id]:
                new_labels[idx] = labels[idx]
                input_ids[idx] = tokenizer.mask_token_id
        feature[<span class="hljs-string">&quot;labels&quot;</span>] = new_labels

    <span class="hljs-keyword">return</span> default_data_collator(features)`,wrap:!1}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function _M(C){let e,r="✏️ <strong>Thử nghiệm thôi!</strong> Chạy đoạn mã trên vài lần để xem việc che ngẫu nhiên diễn ra ngay trước mắt bạn! Đồng thời  thử thay thế phương thức <code>tokenizer.decode()</code> bằng <code>tokenizer.convert_ids_to_tokens()</code> để thấy rằng đôi khi một token từ một từ nhất định bị che, chứ không phải những cái khác.";return{c(){e=u("p"),e.innerHTML=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-1iwtc3f"&&(e.innerHTML=r)},m(a,y){s(a,e,y)},p:Yl,d(a){a&&n(e)}}}function kM(C){let e,r="Khi đã đăng nhập, chúng ta có thể chỉ định các tham số cho <code>Trainer</code>:",a,y,_,b,Z="Ở đây, chúng ta đã điều chỉnh một số tùy chọn mặc định, bao gồm <code>log_steps</code> để đảm bảo theo dõi sự mất mát trong quá trình huấn luyện theo từng epoch. Chúng ta cũng đã sử dụng <code>fp16=True</code> để cho phép huấn luyện chính xác hỗn hợp, giúp tăng tốc độ. Theo mặc định, <code>Trainer</code> sẽ loại bỏ bất kỳ cột nào không phải là một phần của phương thức <code>forward()</code> của mô hình. Điều này có nghĩa là nếu bạn đang sử dụng công cụ che toàn bộ từ, bạn cũng cần đặt <code>remove_unused_columns=False</code> để đảm bảo chúng ta không mất cột <code>word_ids</code> trong quá trình huấn luyện.",V,j,v='Lưu ý rằng bạn có thể chỉ định tên của kho lưu trữ mà bạn muốn đẩy đến bằng tham số <code>hub_model_id</code> (cụ thể là bạn sẽ phải sử dụng tham số này để đẩy đến một tổ chức). Ví dụ: khi chúng ta đẩy mô hình vào tổ chức <a href="https://huggingface.co/huggingface-course" rel="nofollow"><code>huggingface-course</code></a>, chúng ta đã thêm <code>hub_model_id=&quot;huggingface-course/distilbert-finetuned-imdb&quot;</code> vào <code>TrainingArguments</code>. Theo mặc định, kho lưu trữ được sử dụng sẽ nằm trong không gian tên của bạn và được đặt tên theo thư mục đầu ra mà bạn đã đặt, vì vậy trong trường hợp của chúng ta, nó sẽ là<code>&quot;lewtun/distilbert-finetuned-imdb&quot;</code>.',R,B,w="Bây giờ chúng ta có tất cả các thành phần để tạo ra <code>Trainer</code>. Ở đây chúng ta chỉ sử dụng <code>data_collator</code> tiêu chuẩn, nhưng bạn có thể thử toàn bộ công cụ che toàn bộ từ và so sánh kết quả như một bài tập:",k,$,S,I,X="Giờ chúng ta đã sẵn sàng chạy <code>trainer.train()</code> - nhưng trước khi làm như vậy, chúng ta hãy xem xét ngắn gọn <em>perplexity</em>, là một chỉ số phổ biến để đánh giá hiệu suất của các mô hình ngôn ngữ.",Y;return y=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMFRyYWluaW5nQXJndW1lbnRzJTBBJTBBYmF0Y2hfc2l6ZSUyMCUzRCUyMDY0JTBBJTIzJTIwSW4lMjByYSUyMHMlRTElQkIlQjElMjBtJUUxJUJBJUE1dCUyMG0lQzMlQTF0JTIwa2hpJTIwaHUlRTElQkElQTVuJTIwbHV5JUUxJUJCJTg3biUyMCVFMSVCQiU5RiUyMG0lRTElQkIlOTdpJTIwZXBvY2glMEFsb2dnaW5nX3N0ZXBzJTIwJTNEJTIwbGVuKGRvd25zYW1wbGVkX2RhdGFzZXQlNUIlMjJ0cmFpbiUyMiU1RCklMjAlMkYlMkYlMjBiYXRjaF9zaXplJTBBbW9kZWxfbmFtZSUyMCUzRCUyMG1vZGVsX2NoZWNrcG9pbnQuc3BsaXQoJTIyJTJGJTIyKSU1Qi0xJTVEJTBBJTBBdHJhaW5pbmdfYXJncyUyMCUzRCUyMFRyYWluaW5nQXJndW1lbnRzKCUwQSUyMCUyMCUyMCUyMG91dHB1dF9kaXIlM0RmJTIyJTdCbW9kZWxfbmFtZSU3RC1maW5ldHVuZWQtaW1kYiUyMiUyQyUwQSUyMCUyMCUyMCUyMG92ZXJ3cml0ZV9vdXRwdXRfZGlyJTNEVHJ1ZSUyQyUwQSUyMCUyMCUyMCUyMGV2YWx1YXRpb25fc3RyYXRlZ3klM0QlMjJlcG9jaCUyMiUyQyUwQSUyMCUyMCUyMCUyMGxlYXJuaW5nX3JhdGUlM0QyZS01JTJDJTBBJTIwJTIwJTIwJTIwd2VpZ2h0X2RlY2F5JTNEMC4wMSUyQyUwQSUyMCUyMCUyMCUyMHBlcl9kZXZpY2VfdHJhaW5fYmF0Y2hfc2l6ZSUzRGJhdGNoX3NpemUlMkMlMEElMjAlMjAlMjAlMjBwZXJfZGV2aWNlX2V2YWxfYmF0Y2hfc2l6ZSUzRGJhdGNoX3NpemUlMkMlMEElMjAlMjAlMjAlMjBwdXNoX3RvX2h1YiUzRFRydWUlMkMlMEElMjAlMjAlMjAlMjBmcDE2JTNEVHJ1ZSUyQyUwQSUyMCUyMCUyMCUyMGxvZ2dpbmdfc3RlcHMlM0Rsb2dnaW5nX3N0ZXBzJTJDJTBBKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> TrainingArguments

batch_size = <span class="hljs-number">64</span>
<span class="hljs-comment"># In ra sự mất mát khi huấn luyện ở mỗi epoch</span>
logging_steps = <span class="hljs-built_in">len</span>(downsampled_dataset[<span class="hljs-string">&quot;train&quot;</span>]) // batch_size
model_name = model_checkpoint.split(<span class="hljs-string">&quot;/&quot;</span>)[-<span class="hljs-number">1</span>]

training_args = TrainingArguments(
    output_dir=<span class="hljs-string">f&quot;<span class="hljs-subst">{model_name}</span>-finetuned-imdb&quot;</span>,
    overwrite_output_dir=<span class="hljs-literal">True</span>,
    evaluation_strategy=<span class="hljs-string">&quot;epoch&quot;</span>,
    learning_rate=<span class="hljs-number">2e-5</span>,
    weight_decay=<span class="hljs-number">0.01</span>,
    per_device_train_batch_size=batch_size,
    per_device_eval_batch_size=batch_size,
    push_to_hub=<span class="hljs-literal">True</span>,
    fp16=<span class="hljs-literal">True</span>,
    logging_steps=logging_steps,
)`,wrap:!1}}),$=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMFRyYWluZXIlMEElMEF0cmFpbmVyJTIwJTNEJTIwVHJhaW5lciglMEElMjAlMjAlMjAlMjBtb2RlbCUzRG1vZGVsJTJDJTBBJTIwJTIwJTIwJTIwYXJncyUzRHRyYWluaW5nX2FyZ3MlMkMlMEElMjAlMjAlMjAlMjB0cmFpbl9kYXRhc2V0JTNEZG93bnNhbXBsZWRfZGF0YXNldCU1QiUyMnRyYWluJTIyJTVEJTJDJTBBJTIwJTIwJTIwJTIwZXZhbF9kYXRhc2V0JTNEZG93bnNhbXBsZWRfZGF0YXNldCU1QiUyMnRlc3QlMjIlNUQlMkMlMEElMjAlMjAlMjAlMjBkYXRhX2NvbGxhdG9yJTNEZGF0YV9jb2xsYXRvciUyQyUwQSUyMCUyMCUyMCUyMHRva2VuaXplciUzRHRva2VuaXplciUyQyUwQSk=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> Trainer

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=downsampled_dataset[<span class="hljs-string">&quot;train&quot;</span>],
    eval_dataset=downsampled_dataset[<span class="hljs-string">&quot;test&quot;</span>],
    data_collator=data_collator,
    tokenizer=tokenizer,
)`,wrap:!1}}),{c(){e=u("p"),e.innerHTML=r,a=M(),U(y.$$.fragment),_=M(),b=u("p"),b.innerHTML=Z,V=M(),j=u("p"),j.innerHTML=v,R=M(),B=u("p"),B.innerHTML=w,k=M(),U($.$$.fragment),S=M(),I=u("p"),I.innerHTML=X},l(G){e=T(G,"P",{"data-svelte-h":!0}),d(e)!=="svelte-8q1chh"&&(e.innerHTML=r),a=h(G),o(y.$$.fragment,G),_=h(G),b=T(G,"P",{"data-svelte-h":!0}),d(b)!=="svelte-1h0rlhz"&&(b.innerHTML=Z),V=h(G),j=T(G,"P",{"data-svelte-h":!0}),d(j)!=="svelte-1h7iv50"&&(j.innerHTML=v),R=h(G),B=T(G,"P",{"data-svelte-h":!0}),d(B)!=="svelte-9pqj0j"&&(B.innerHTML=w),k=h(G),o($.$$.fragment,G),S=h(G),I=T(G,"P",{"data-svelte-h":!0}),d(I)!=="svelte-5sifcq"&&(I.innerHTML=X)},m(G,Q){s(G,e,Q),s(G,a,Q),m(y,G,Q),s(G,_,Q),s(G,b,Q),s(G,V,Q),s(G,j,Q),s(G,R,Q),s(G,B,Q),s(G,k,Q),m($,G,Q),s(G,S,Q),s(G,I,Q),Y=!0},i(G){Y||(c(y.$$.fragment,G),c($.$$.fragment,G),Y=!0)},o(G){p(y.$$.fragment,G),p($.$$.fragment,G),Y=!1},d(G){G&&(n(e),n(a),n(_),n(b),n(V),n(j),n(R),n(B),n(k),n(S),n(I)),J(y,G),J($,G)}}}function GM(C){let e,r="Khi đã đăng nhập, chúng ta có thể tạo tập dữ liệu <code>tf.data</code> của mình. Chúng tôi sẽ chỉ sử dụng trình đối chiếu dữ liệu tiêu chuẩn ở đây, nhưng bạn cũng có thể thử trình đối chiếu che toàn bộ từ và so sánh kết quả như một bài tập:",a,y,_,b,Z="Tiếp theo, chúng ta thiết lập các siêu tham số huấn luyện và biên dịch mô hình. Chúng ta sử dụng hàm <code>create_optimizer()</code> từ thư viện 🤗 Transformers, cung cấp cho chúng ta trình tối ưu hóa <code>AdamW</code> với phân rã tốc độ học tuyến tính. Chúng ta cũng sử dụng hàm mất mát có sẵn của mô hình, là mặc định khi không có tổn thất nào được chỉ định làm tham số cho <code>compile()</code> và đặt độ chính xác huấn luyện thành <code>&quot;mixed_float16&quot;</code>. Lưu ý rằng nếu bạn đang sử dụng GPU Colab hoặc GPU khác không có hỗ trợ float16 tăng tốc, bạn có thể nên đổi dòng đó thành chú thích.",V,j,v='Ngoài ra, chúng ta thiết lập một <code>PushToHubCallback</code> sẽ lưu mô hình vào Hub sau mỗi epoch. Bạn có thể chỉ định tên của kho lưu trữ mà bạn muốn đẩy đến bằng tham số <code>hub_model_id</code> (cụ thể là bạn sẽ phải sử dụng tham số này để đẩy đến một tổ chức). Ví dụ: để đẩy mô hình vào tổ chức <a href="https://huggingface.co/huggingface-course" rel="nofollow"><code>huggingface-course</code></a>, chúng tôi đã thêm <code>hub_model_id=&quot;huggingface-course/distilbert-finetuned-imdb&quot;</code>. Theo mặc định, kho lưu trữ được sử dụng sẽ nằm trong không gian tên của bạn và được đặt tên theo thư mục đầu ra mà bạn đã đặt, vì vậy trong trường hợp của chúng tôi, nó sẽ là <code>&quot;lewtun/distilbert-finetuned-imdb&quot;</code>.',R,B,w,k,$="Bây giờ chúng ta đã sẵn sàng chạy <code>model.fit()</code> - nhưng trước khi làm như vậy, hãy xem xét ngắn gọn <em>perplexity</em>, là một chỉ số phổ biến để đánh giá hiệu suất của các mô hình ngôn ngữ.",S;return y=new g({props:{code:"dGZfdHJhaW5fZGF0YXNldCUyMCUzRCUyMGRvd25zYW1wbGVkX2RhdGFzZXQlNUIlMjJ0cmFpbiUyMiU1RC50b190Zl9kYXRhc2V0KCUwQSUyMCUyMCUyMCUyMGNvbHVtbnMlM0QlNUIlMjJpbnB1dF9pZHMlMjIlMkMlMjAlMjJhdHRlbnRpb25fbWFzayUyMiUyQyUyMCUyMmxhYmVscyUyMiU1RCUyQyUwQSUyMCUyMCUyMCUyMGNvbGxhdGVfZm4lM0RkYXRhX2NvbGxhdG9yJTJDJTBBJTIwJTIwJTIwJTIwc2h1ZmZsZSUzRFRydWUlMkMlMEElMjAlMjAlMjAlMjBiYXRjaF9zaXplJTNEMzIlMkMlMEEpJTBBJTBBdGZfZXZhbF9kYXRhc2V0JTIwJTNEJTIwZG93bnNhbXBsZWRfZGF0YXNldCU1QiUyMnRlc3QlMjIlNUQudG9fdGZfZGF0YXNldCglMEElMjAlMjAlMjAlMjBjb2x1bW5zJTNEJTVCJTIyaW5wdXRfaWRzJTIyJTJDJTIwJTIyYXR0ZW50aW9uX21hc2slMjIlMkMlMjAlMjJsYWJlbHMlMjIlNUQlMkMlMEElMjAlMjAlMjAlMjBjb2xsYXRlX2ZuJTNEZGF0YV9jb2xsYXRvciUyQyUwQSUyMCUyMCUyMCUyMHNodWZmbGUlM0RGYWxzZSUyQyUwQSUyMCUyMCUyMCUyMGJhdGNoX3NpemUlM0QzMiUyQyUwQSk=",highlighted:`tf_train_dataset = downsampled_dataset[<span class="hljs-string">&quot;train&quot;</span>].to_tf_dataset(
    columns=[<span class="hljs-string">&quot;input_ids&quot;</span>, <span class="hljs-string">&quot;attention_mask&quot;</span>, <span class="hljs-string">&quot;labels&quot;</span>],
    collate_fn=data_collator,
    shuffle=<span class="hljs-literal">True</span>,
    batch_size=<span class="hljs-number">32</span>,
)

tf_eval_dataset = downsampled_dataset[<span class="hljs-string">&quot;test&quot;</span>].to_tf_dataset(
    columns=[<span class="hljs-string">&quot;input_ids&quot;</span>, <span class="hljs-string">&quot;attention_mask&quot;</span>, <span class="hljs-string">&quot;labels&quot;</span>],
    collate_fn=data_collator,
    shuffle=<span class="hljs-literal">False</span>,
    batch_size=<span class="hljs-number">32</span>,
)`,wrap:!1}}),B=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMGNyZWF0ZV9vcHRpbWl6ZXIlMEFmcm9tJTIwdHJhbnNmb3JtZXJzLmtlcmFzX2NhbGxiYWNrcyUyMGltcG9ydCUyMFB1c2hUb0h1YkNhbGxiYWNrJTBBaW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEElMEFudW1fdHJhaW5fc3RlcHMlMjAlM0QlMjBsZW4odGZfdHJhaW5fZGF0YXNldCklMEFvcHRpbWl6ZXIlMkMlMjBzY2hlZHVsZSUyMCUzRCUyMGNyZWF0ZV9vcHRpbWl6ZXIoJTBBJTIwJTIwJTIwJTIwaW5pdF9sciUzRDJlLTUlMkMlMEElMjAlMjAlMjAlMjBudW1fd2FybXVwX3N0ZXBzJTNEMV8wMDAlMkMlMEElMjAlMjAlMjAlMjBudW1fdHJhaW5fc3RlcHMlM0RudW1fdHJhaW5fc3RlcHMlMkMlMEElMjAlMjAlMjAlMjB3ZWlnaHRfZGVjYXlfcmF0ZSUzRDAuMDElMkMlMEEpJTBBbW9kZWwuY29tcGlsZShvcHRpbWl6ZXIlM0RvcHRpbWl6ZXIpJTBBJTBBJTIzJTIwSHUlRTElQkElQTVuJTIwbHV5JUUxJUJCJTg3biUyMHRyb25nJTIwbWl4ZWQtcHJlY2lzaW9uJTIwZmxvYXQxNiUwQXRmLmtlcmFzLm1peGVkX3ByZWNpc2lvbi5zZXRfZ2xvYmFsX3BvbGljeSglMjJtaXhlZF9mbG9hdDE2JTIyKSUwQSUwQWNhbGxiYWNrJTIwJTNEJTIwUHVzaFRvSHViQ2FsbGJhY2soJTBBJTIwJTIwJTIwJTIwb3V0cHV0X2RpciUzRGYlMjIlN0Jtb2RlbF9uYW1lJTdELWZpbmV0dW5lZC1pbWRiJTIyJTJDJTIwdG9rZW5pemVyJTNEdG9rZW5pemVyJTBBKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> create_optimizer
<span class="hljs-keyword">from</span> transformers.keras_callbacks <span class="hljs-keyword">import</span> PushToHubCallback
<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf

num_train_steps = <span class="hljs-built_in">len</span>(tf_train_dataset)
optimizer, schedule = create_optimizer(
    init_lr=<span class="hljs-number">2e-5</span>,
    num_warmup_steps=<span class="hljs-number">1_000</span>,
    num_train_steps=num_train_steps,
    weight_decay_rate=<span class="hljs-number">0.01</span>,
)
model.<span class="hljs-built_in">compile</span>(optimizer=optimizer)

<span class="hljs-comment"># Huấn luyện trong mixed-precision float16</span>
tf.keras.mixed_precision.set_global_policy(<span class="hljs-string">&quot;mixed_float16&quot;</span>)

callback = PushToHubCallback(
    output_dir=<span class="hljs-string">f&quot;<span class="hljs-subst">{model_name}</span>-finetuned-imdb&quot;</span>, tokenizer=tokenizer
)`,wrap:!1}}),{c(){e=u("p"),e.innerHTML=r,a=M(),U(y.$$.fragment),_=M(),b=u("p"),b.innerHTML=Z,V=M(),j=u("p"),j.innerHTML=v,R=M(),U(B.$$.fragment),w=M(),k=u("p"),k.innerHTML=$},l(I){e=T(I,"P",{"data-svelte-h":!0}),d(e)!=="svelte-xgdo9a"&&(e.innerHTML=r),a=h(I),o(y.$$.fragment,I),_=h(I),b=T(I,"P",{"data-svelte-h":!0}),d(b)!=="svelte-3rpxka"&&(b.innerHTML=Z),V=h(I),j=T(I,"P",{"data-svelte-h":!0}),d(j)!=="svelte-hfhvec"&&(j.innerHTML=v),R=h(I),o(B.$$.fragment,I),w=h(I),k=T(I,"P",{"data-svelte-h":!0}),d(k)!=="svelte-10fidx9"&&(k.innerHTML=$)},m(I,X){s(I,e,X),s(I,a,X),m(y,I,X),s(I,_,X),s(I,b,X),s(I,V,X),s(I,j,X),s(I,R,X),m(B,I,X),s(I,w,X),s(I,k,X),S=!0},i(I){S||(c(y.$$.fragment,I),c(B.$$.fragment,I),S=!0)},o(I){p(y.$$.fragment,I),p(B.$$.fragment,I),S=!1},d(I){I&&(n(e),n(a),n(_),n(b),n(V),n(j),n(R),n(w),n(k)),J(y,I),J(B,I)}}}function BM(C){let e,r="Giả sử bộ kiểm thử của chúng ta bao gồm hầu hết các câu đúng ngữ pháp, thì một cách để đo lường chất lượng của mô hình ngôn ngữ là tính toán xác suất nó gán cho từ tiếp theo trong tất cả các câu của bộ kiểm thử. Khả năng xảy ra cao chỉ ra rằng mô hình không bị “ngạc nhiên” hoặc “bối rối” bởi các mẫu không nhìn thấy và cho thấy nó đã học được các mẫu ngữ pháp cơ bản trong ngôn ngữ. Có nhiều định nghĩa toán học khác nhau về perplexity, nhưng chúng ta sẽ sử dụng định nghĩa là hàm mũ của mất mát entropy chéo. Do đó, chúng ta có thể tính toán perplexity của mô hình được huấn luyện trước của mình bằng cách sử dụng hàm <code>Trainer.evaluate()</code> để tính toán mất mát entropy chéo trên tập kiểm thử và sau đó lấy theo cấp số nhân của kết quả:",a,y,_;return y=new g({props:{code:"aW1wb3J0JTIwbWF0aCUwQSUwQWV2YWxfbG9zcyUyMCUzRCUyMG1vZGVsLmV2YWx1YXRlKHRmX2V2YWxfZGF0YXNldCklMEFwcmludChmJTIyUGVycGxleGl0eSUzQSUyMCU3Qm1hdGguZXhwKGV2YWxfbG9zcyklM0EuMmYlN0QlMjIp",highlighted:`<span class="hljs-keyword">import</span> math

eval_loss = model.evaluate(tf_eval_dataset)
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;Perplexity: <span class="hljs-subst">{math.exp(eval_loss):<span class="hljs-number">.2</span>f}</span>&quot;</span>)`,wrap:!1}}),{c(){e=u("p"),e.innerHTML=r,a=M(),U(y.$$.fragment)},l(b){e=T(b,"P",{"data-svelte-h":!0}),d(e)!=="svelte-1u7oim2"&&(e.innerHTML=r),a=h(b),o(y.$$.fragment,b)},m(b,Z){s(b,e,Z),s(b,a,Z),m(y,b,Z),_=!0},i(b){_||(c(y.$$.fragment,b),_=!0)},o(b){p(y.$$.fragment,b),_=!1},d(b){b&&(n(e),n(a)),J(y,b)}}}function ZM(C){let e,r="Giả sử bộ kiểm thử của chúng ta bao gồm hầu hết các câu đúng ngữ pháp, thì một cách để đo lường chất lượng của mô hình ngôn ngữ là tính toán xác suất nó gán cho từ tiếp theo trong tất cả các câu của bộ kiểm thử. Khả năng xảy ra cao chỉ ra rằng mô hình không bị “ngạc nhiên” hoặc “bối rối” bởi các mẫu không nhìn thấy và cho thấy nó đã học được các mẫu ngữ pháp cơ bản trong ngôn ngữ. Có nhiều định nghĩa toán học khác nhau về perplexity, nhưng chúng ta sẽ sử dụng định nghĩa là hàm mũ của mất mát entropy chéo. Do đó, chúng ta có thể tính toán perplexity của mô hình được huấn luyện trước của mình bằng cách sử dụng hàm <code>Trainer.evaluate()</code> để tính toán mất mát entropy chéo trên tập kiểm thử và sau đó lấy theo cấp số nhân của kết quả:",a,y,_;return y=new g({props:{code:"aW1wb3J0JTIwbWF0aCUwQSUwQWV2YWxfcmVzdWx0cyUyMCUzRCUyMHRyYWluZXIuZXZhbHVhdGUoKSUwQXByaW50KGYlMjIlM0UlM0UlM0UlMjBQZXJwbGV4aXR5JTNBJTIwJTdCbWF0aC5leHAoZXZhbF9yZXN1bHRzJTVCJ2V2YWxfbG9zcyclNUQpJTNBLjJmJTdEJTIyKQ==",highlighted:`<span class="hljs-keyword">import</span> math

eval_results = trainer.evaluate()
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; Perplexity: <span class="hljs-subst">{math.exp(eval_results[<span class="hljs-string">&#x27;eval_loss&#x27;</span>]):<span class="hljs-number">.2</span>f}</span>&quot;</span>)`,wrap:!1}}),{c(){e=u("p"),e.innerHTML=r,a=M(),U(y.$$.fragment)},l(b){e=T(b,"P",{"data-svelte-h":!0}),d(e)!=="svelte-1u7oim2"&&(e.innerHTML=r),a=h(b),o(y.$$.fragment,b)},m(b,Z){s(b,e,Z),s(b,a,Z),m(y,b,Z),_=!0},i(b){_||(c(y.$$.fragment,b),_=!0)},o(b){p(y.$$.fragment,b),_=!1},d(b){b&&(n(e),n(a)),J(y,b)}}}function RM(C){let e,r;return e=new g({props:{code:"bW9kZWwuZml0KHRmX3RyYWluX2RhdGFzZXQlMkMlMjB2YWxpZGF0aW9uX2RhdGElM0R0Zl9ldmFsX2RhdGFzZXQlMkMlMjBjYWxsYmFja3MlM0QlNUJjYWxsYmFjayU1RCk=",highlighted:"model.fit(tf_train_dataset, validation_data=tf_eval_dataset, callbacks=[callback])",wrap:!1}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function vM(C){let e,r;return e=new g({props:{code:"dHJhaW5lci50cmFpbigp",highlighted:"trainer.train()",wrap:!1}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function VM(C){let e,r;return e=new g({props:{code:"ZXZhbF9sb3NzJTIwJTNEJTIwbW9kZWwuZXZhbHVhdGUodGZfZXZhbF9kYXRhc2V0KSUwQXByaW50KGYlMjJQZXJwbGV4aXR5JTNBJTIwJTdCbWF0aC5leHAoZXZhbF9sb3NzKSUzQS4yZiU3RCUyMik=",highlighted:`eval_loss = model.evaluate(tf_eval_dataset)
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;Perplexity: <span class="hljs-subst">{math.exp(eval_loss):<span class="hljs-number">.2</span>f}</span>&quot;</span>)`,wrap:!1}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function XM(C){let e,r;return e=new g({props:{code:"ZXZhbF9yZXN1bHRzJTIwJTNEJTIwdHJhaW5lci5ldmFsdWF0ZSgpJTBBcHJpbnQoZiUyMiUzRSUzRSUzRSUyMFBlcnBsZXhpdHklM0ElMjAlN0JtYXRoLmV4cChldmFsX3Jlc3VsdHMlNUInZXZhbF9sb3NzJyU1RCklM0EuMmYlN0QlMjIp",highlighted:`eval_results = trainer.evaluate()
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; Perplexity: <span class="hljs-subst">{math.exp(eval_results[<span class="hljs-string">&#x27;eval_loss&#x27;</span>]):<span class="hljs-number">.2</span>f}</span>&quot;</span>)`,wrap:!1}}),{c(){U(e.$$.fragment)},l(a){o(e.$$.fragment,a)},m(a,y){m(e,a,y),r=!0},i(a){r||(c(e.$$.fragment,a),r=!0)},o(a){p(e.$$.fragment,a),r=!1},d(a){J(e,a)}}}function nM(C){let e,r="Sau khi quá trình huấn luyện kết thúc, chúng ta có thể đẩy thẻ mô hình có thông tin huấn luyện vào Hub (các checkpoint được lưu trong quá trình tự huấn luyện):",a,y,_="Once training is finished, we can push the model card with the training information to the Hub (the checkpoints are saved during training itself):",b,Z,V;return Z=new g({props:{code:"dHJhaW5lci5wdXNoX3RvX2h1Yigp",highlighted:"trainer.push_to_hub()",wrap:!1}}),{c(){e=u("p"),e.textContent=r,a=M(),y=u("p"),y.textContent=_,b=M(),U(Z.$$.fragment)},l(j){e=T(j,"P",{"data-svelte-h":!0}),d(e)!=="svelte-6azsch"&&(e.textContent=r),a=h(j),y=T(j,"P",{"data-svelte-h":!0}),d(y)!=="svelte-13hhldr"&&(y.textContent=_),b=h(j),o(Z.$$.fragment,j)},m(j,v){s(j,e,v),s(j,a,v),s(j,y,v),s(j,b,v),m(Z,j,v),V=!0},i(j){V||(c(Z.$$.fragment,j),V=!0)},o(j){p(Z.$$.fragment,j),V=!1},d(j){j&&(n(e),n(a),n(y),n(b)),J(Z,j)}}}function QM(C){let e,r="✏️ <strong>Đến lượt bạn!</strong> Chạy bướchuấn luyện trên sau khi thay đổi trình thu thập dữ liệu thành che toàn bộ từ. Bạn có nhận được kết quả tốt hơn không?";return{c(){e=u("p"),e.innerHTML=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-2c3m0b"&&(e.innerHTML=r)},m(a,y){s(a,e,y)},p:Yl,d(a){a&&n(e)}}}function sM(C){let e,r="Trong trường hợp của mình, chúng ta không cần làm gì đặc biệt với vòng huấn luyện, nhưng một số trường hợp bạn sẽ cần phải triển khai một số logic tuỳ chỉnh. Với những ứng dụng này, bạn có thể sử dụng 🤗 Accelerate — hãy cũng xem xem!",a,y,_,b,Z='Như chúng ta đã thấy với <code>Trainer</code>, việc tinh chỉnh mô hình ngôn ngữ bị ản đi rất giống với ví dụ phân loại văn bản từ <a href="/course/chapter3">Chapter 3</a>. Trên thực tế, sự tinh tế duy nhất là việc sử dụng một công cụ đối chiếu dữ liệu đặc biệt và chúng ta đã đề cập đến điều đó trước đó trong phần này!',V,j,v="Tuy nhiên, chúng ta thấy rằng <code>DataCollatorForLanguageModeling</code> cũng áp dụng tính năng che ngẫu nhiên với mỗi lần đánh giá, vì vậy chúng ta sẽ thấy một số biến động về perplexity với mỗi lần chạy huấn luyện. Một cách để loại bỏ tính ngẫu nhiên này là áp dụng  che <em>chỉ một lần</em> trên toàn bộ tập kiểm thử, sau đó sử dụng trình đối chiếu dữ liệu mặc định trong 🤗 Transformers để thu thập các lô trong quá trình đánh giá. Để xem cách này hoạt động như thế nào, hãy triển khai một chức năng đơn giản áp dụng che trên một lô, tương tự như lần đầu của chúng ta với <code>DataCollatorForLanguageModeling</code>:",R,B,w,k,$="Tiếp theo, chúng ta sẽ áp dụng chức năng này cho tập kiểm thử của mình và bỏ các cột không che để có thể thay thế chúng bằng những cột bị che. Bạn có thể sử dụng che toàn bộ từ bằng cách thay thế <code>data_collator</code> ở trên bằng cái thích hợp, trong trường hợp đó, bạn nên xóa dòng đầu tiên tại đây:",S,I,X,Y,G="Sau đó, chúng ta có thể thiết lập bộ lưu dữ liệu như bình thường, nhưng ta sẽ sử dụng <code>default_data_collator</code> từ 🤗 Transformers cho tập kiểm định:",Q,jl,kl,H,Fn="Từ đây, chúng ta làm theo các bước tiêu chuẩn với 🤗 Accelerate. Yêu cầu đầu tiên của công việc là tải một phiên bản mới của mô hình được huấn luyện trước:",Gl,W,Hl,sl,fl="Sau đó, chúng ta cần chỉ định trình tối ưu hóa; chúng ta sẽ sử dụng tiêu chuẩn <code>AdamW</code>:",Ll,el,al,Ml,pl="Với những đối tượng này, bây giờ chúng ta có thể chuẩn bị mọi thứ cho quá trình huấn luyện với đối tượng <code>Accelerator</code>:",Bl,L,Zl,q,Yn="Bây giờ mô hình, trình tối ưu hóa và bộ ghi dữ liệu của chúng ta đã được định cấu hình, chúng ta có thể chỉ định bộ lập lịch tốc độ học như sau:",Rl,A,ql,hl,Cl="Chỉ có một điều cuối cùng cần làm trước khi huấn luyện: tạo một kho lưu trữ mô hình trên Hugging Face Hub! Trước tiên, chúng ta có thể sử dụng thư viện 🤗 Hub để tạo tên đầy đủ cho repo của mình:",Dl,il,E,z,yl,D,Hn="sau đó tạo và sao chép kho lưu trữ bằng cách sử dụng lớp <code>Repository</code> từ 🤗 Hub:",vl,K,Vl,P,Ln="Sau khi thực hiện xong, việc viết ra toàn bộ vòng lặp huấn luyện và đánh giá chỉ là một vấn đề đơn giản:",Xl,O,Ql,ll,Kl,cl,nl="Tuyệt vời, chúng tôi đã có thể đánh giá mức độ phức tạp theo từng epoch và đảm bảo rằng nhiều lần chạy huấn luyện có thể tái tạo!",F;return y=new Fl({props:{title:"Tinh chỉnh DistilBERT với 🤗 Accelerate",local:"tinh-chỉnh-distilbert-với--accelerate",headingTag:"h2"}}),B=new g({props:{code:"ZGVmJTIwaW5zZXJ0X3JhbmRvbV9tYXNrKGJhdGNoKSUzQSUwQSUyMCUyMCUyMCUyMGZlYXR1cmVzJTIwJTNEJTIwJTVCZGljdCh6aXAoYmF0Y2glMkMlMjB0KSklMjBmb3IlMjB0JTIwaW4lMjB6aXAoKmJhdGNoLnZhbHVlcygpKSU1RCUwQSUyMCUyMCUyMCUyMG1hc2tlZF9pbnB1dHMlMjAlM0QlMjBkYXRhX2NvbGxhdG9yKGZlYXR1cmVzKSUwQSUyMCUyMCUyMCUyMCUyMyUyMFQlRTElQkElQTFvJTIwcmElMjBtJUUxJUJCJTk5dCUyMGMlRTElQkIlOTl0JTIwJTIybWFza2VkJTIyJTIwbSVFMSVCQiU5QmklMjBjaG8lMjBtJUUxJUJCJTk3aSUyMGMlRTElQkIlOTl0JTIwdHJvbmclMjBiJUUxJUJCJTk5JTIwZCVFMSVCQiVBRiUyMGxpJUUxJUJCJTg3dSUwQSUyMCUyMCUyMCUyMHJldHVybiUyMCU3QiUyMm1hc2tlZF8lMjIlMjAlMkIlMjBrJTNBJTIwdi5udW1weSgpJTIwZm9yJTIwayUyQyUyMHYlMjBpbiUyMG1hc2tlZF9pbnB1dHMuaXRlbXMoKSU3RA==",highlighted:`<span class="hljs-keyword">def</span> <span class="hljs-title function_">insert_random_mask</span>(<span class="hljs-params">batch</span>):
    features = [<span class="hljs-built_in">dict</span>(<span class="hljs-built_in">zip</span>(batch, t)) <span class="hljs-keyword">for</span> t <span class="hljs-keyword">in</span> <span class="hljs-built_in">zip</span>(*batch.values())]
    masked_inputs = data_collator(features)
    <span class="hljs-comment"># Tạo ra một cột &quot;masked&quot; mới cho mỗi cột trong bộ dữ liệu</span>
    <span class="hljs-keyword">return</span> {<span class="hljs-string">&quot;masked_&quot;</span> + k: v.numpy() <span class="hljs-keyword">for</span> k, v <span class="hljs-keyword">in</span> masked_inputs.items()}`,wrap:!1}}),I=new g({props:{code:"ZG93bnNhbXBsZWRfZGF0YXNldCUyMCUzRCUyMGRvd25zYW1wbGVkX2RhdGFzZXQucmVtb3ZlX2NvbHVtbnMoJTVCJTIyd29yZF9pZHMlMjIlNUQpJTBBZXZhbF9kYXRhc2V0JTIwJTNEJTIwZG93bnNhbXBsZWRfZGF0YXNldCU1QiUyMnRlc3QlMjIlNUQubWFwKCUwQSUyMCUyMCUyMCUyMGluc2VydF9yYW5kb21fbWFzayUyQyUwQSUyMCUyMCUyMCUyMGJhdGNoZWQlM0RUcnVlJTJDJTBBJTIwJTIwJTIwJTIwcmVtb3ZlX2NvbHVtbnMlM0Rkb3duc2FtcGxlZF9kYXRhc2V0JTVCJTIydGVzdCUyMiU1RC5jb2x1bW5fbmFtZXMlMkMlMEEpJTBBZXZhbF9kYXRhc2V0JTIwJTNEJTIwZXZhbF9kYXRhc2V0LnJlbmFtZV9jb2x1bW5zKCUwQSUyMCUyMCUyMCUyMCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMm1hc2tlZF9pbnB1dF9pZHMlMjIlM0ElMjAlMjJpbnB1dF9pZHMlMjIlMkMlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjJtYXNrZWRfYXR0ZW50aW9uX21hc2slMjIlM0ElMjAlMjJhdHRlbnRpb25fbWFzayUyMiUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMm1hc2tlZF9sYWJlbHMlMjIlM0ElMjAlMjJsYWJlbHMlMjIlMkMlMEElMjAlMjAlMjAlMjAlN0QlMEEp",highlighted:`downsampled_dataset = downsampled_dataset.remove_columns([<span class="hljs-string">&quot;word_ids&quot;</span>])
eval_dataset = downsampled_dataset[<span class="hljs-string">&quot;test&quot;</span>].<span class="hljs-built_in">map</span>(
    insert_random_mask,
    batched=<span class="hljs-literal">True</span>,
    remove_columns=downsampled_dataset[<span class="hljs-string">&quot;test&quot;</span>].column_names,
)
eval_dataset = eval_dataset.rename_columns(
    {
        <span class="hljs-string">&quot;masked_input_ids&quot;</span>: <span class="hljs-string">&quot;input_ids&quot;</span>,
        <span class="hljs-string">&quot;masked_attention_mask&quot;</span>: <span class="hljs-string">&quot;attention_mask&quot;</span>,
        <span class="hljs-string">&quot;masked_labels&quot;</span>: <span class="hljs-string">&quot;labels&quot;</span>,
    }
)`,wrap:!1}}),jl=new g({props:{code:"ZnJvbSUyMHRvcmNoLnV0aWxzLmRhdGElMjBpbXBvcnQlMjBEYXRhTG9hZGVyJTBBZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMGRlZmF1bHRfZGF0YV9jb2xsYXRvciUwQSUwQWJhdGNoX3NpemUlMjAlM0QlMjA2NCUwQXRyYWluX2RhdGFsb2FkZXIlMjAlM0QlMjBEYXRhTG9hZGVyKCUwQSUyMCUyMCUyMCUyMGRvd25zYW1wbGVkX2RhdGFzZXQlNUIlMjJ0cmFpbiUyMiU1RCUyQyUwQSUyMCUyMCUyMCUyMHNodWZmbGUlM0RUcnVlJTJDJTBBJTIwJTIwJTIwJTIwYmF0Y2hfc2l6ZSUzRGJhdGNoX3NpemUlMkMlMEElMjAlMjAlMjAlMjBjb2xsYXRlX2ZuJTNEZGF0YV9jb2xsYXRvciUyQyUwQSklMEFldmFsX2RhdGFsb2FkZXIlMjAlM0QlMjBEYXRhTG9hZGVyKCUwQSUyMCUyMCUyMCUyMGV2YWxfZGF0YXNldCUyQyUyMGJhdGNoX3NpemUlM0RiYXRjaF9zaXplJTJDJTIwY29sbGF0ZV9mbiUzRGRlZmF1bHRfZGF0YV9jb2xsYXRvciUwQSk=",highlighted:`<span class="hljs-keyword">from</span> torch.utils.data <span class="hljs-keyword">import</span> DataLoader
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> default_data_collator

batch_size = <span class="hljs-number">64</span>
train_dataloader = DataLoader(
    downsampled_dataset[<span class="hljs-string">&quot;train&quot;</span>],
    shuffle=<span class="hljs-literal">True</span>,
    batch_size=batch_size,
    collate_fn=data_collator,
)
eval_dataloader = DataLoader(
    eval_dataset, batch_size=batch_size, collate_fn=default_data_collator
)`,wrap:!1}}),W=new g({props:{code:"bW9kZWwlMjAlM0QlMjBBdXRvTW9kZWxGb3JNYXNrZWRMTS5mcm9tX3ByZXRyYWluZWQobW9kZWxfY2hlY2twb2ludCk=",highlighted:'model = <span class="hljs-module-access"><span class="hljs-module"><span class="hljs-identifier">AutoModelForMaskedLM</span>.</span></span>from<span class="hljs-constructor">_pretrained(<span class="hljs-params">model_checkpoint</span>)</span>',wrap:!1}}),el=new g({props:{code:"ZnJvbSUyMHRvcmNoLm9wdGltJTIwaW1wb3J0JTIwQWRhbVclMEElMEFvcHRpbWl6ZXIlMjAlM0QlMjBBZGFtVyhtb2RlbC5wYXJhbWV0ZXJzKCklMkMlMjBsciUzRDVlLTUp",highlighted:`<span class="hljs-keyword">from</span> torch.optim <span class="hljs-keyword">import</span> AdamW

optimizer = AdamW(model.parameters(), lr=<span class="hljs-number">5e-5</span>)`,wrap:!1}}),L=new g({props:{code:"ZnJvbSUyMGFjY2VsZXJhdGUlMjBpbXBvcnQlMjBBY2NlbGVyYXRvciUwQSUwQWFjY2VsZXJhdG9yJTIwJTNEJTIwQWNjZWxlcmF0b3IoKSUwQW1vZGVsJTJDJTIwb3B0aW1pemVyJTJDJTIwdHJhaW5fZGF0YWxvYWRlciUyQyUyMGV2YWxfZGF0YWxvYWRlciUyMCUzRCUyMGFjY2VsZXJhdG9yLnByZXBhcmUoJTBBJTIwJTIwJTIwJTIwbW9kZWwlMkMlMjBvcHRpbWl6ZXIlMkMlMjB0cmFpbl9kYXRhbG9hZGVyJTJDJTIwZXZhbF9kYXRhbG9hZGVyJTBBKQ==",highlighted:`<span class="hljs-keyword">from</span> accelerate <span class="hljs-keyword">import</span> Accelerator

accelerator = Accelerator()
model, optimizer, train_dataloader, eval_dataloader = accelerator.prepare(
    model, optimizer, train_dataloader, eval_dataloader
)`,wrap:!1}}),A=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMGdldF9zY2hlZHVsZXIlMEElMEFudW1fdHJhaW5fZXBvY2hzJTIwJTNEJTIwMyUwQW51bV91cGRhdGVfc3RlcHNfcGVyX2Vwb2NoJTIwJTNEJTIwbGVuKHRyYWluX2RhdGFsb2FkZXIpJTBBbnVtX3RyYWluaW5nX3N0ZXBzJTIwJTNEJTIwbnVtX3RyYWluX2Vwb2NocyUyMColMjBudW1fdXBkYXRlX3N0ZXBzX3Blcl9lcG9jaCUwQSUwQWxyX3NjaGVkdWxlciUyMCUzRCUyMGdldF9zY2hlZHVsZXIoJTBBJTIwJTIwJTIwJTIwJTIybGluZWFyJTIyJTJDJTBBJTIwJTIwJTIwJTIwb3B0aW1pemVyJTNEb3B0aW1pemVyJTJDJTBBJTIwJTIwJTIwJTIwbnVtX3dhcm11cF9zdGVwcyUzRDAlMkMlMEElMjAlMjAlMjAlMjBudW1fdHJhaW5pbmdfc3RlcHMlM0RudW1fdHJhaW5pbmdfc3RlcHMlMkMlMEEp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> get_scheduler

num_train_epochs = <span class="hljs-number">3</span>
num_update_steps_per_epoch = <span class="hljs-built_in">len</span>(train_dataloader)
num_training_steps = num_train_epochs * num_update_steps_per_epoch

lr_scheduler = get_scheduler(
    <span class="hljs-string">&quot;linear&quot;</span>,
    optimizer=optimizer,
    num_warmup_steps=<span class="hljs-number">0</span>,
    num_training_steps=num_training_steps,
)`,wrap:!1}}),il=new g({props:{code:"ZnJvbSUyMGh1Z2dpbmdmYWNlX2h1YiUyMGltcG9ydCUyMGdldF9mdWxsX3JlcG9fbmFtZSUwQSUwQW1vZGVsX25hbWUlMjAlM0QlMjAlMjJkaXN0aWxiZXJ0LWJhc2UtdW5jYXNlZC1maW5ldHVuZWQtaW1kYi1hY2NlbGVyYXRlJTIyJTBBcmVwb19uYW1lJTIwJTNEJTIwZ2V0X2Z1bGxfcmVwb19uYW1lKG1vZGVsX25hbWUpJTBBcmVwb19uYW1l",highlighted:`<span class="hljs-keyword">from</span> huggingface_hub <span class="hljs-keyword">import</span> get_full_repo_name

model_name = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-imdb-accelerate&quot;</span>
repo_name = get_full_repo_name(model_name)
repo_name`,wrap:!1}}),z=new g({props:{code:"J2xld3R1biUyRmRpc3RpbGJlcnQtYmFzZS11bmNhc2VkLWZpbmV0dW5lZC1pbWRiLWFjY2VsZXJhdGUn",highlighted:'<span class="hljs-string">&#x27;lewtun/distilbert-base-uncased-finetuned-imdb-accelerate&#x27;</span>',wrap:!1}}),K=new g({props:{code:"ZnJvbSUyMGh1Z2dpbmdmYWNlX2h1YiUyMGltcG9ydCUyMFJlcG9zaXRvcnklMEElMEFvdXRwdXRfZGlyJTIwJTNEJTIwbW9kZWxfbmFtZSUwQXJlcG8lMjAlM0QlMjBSZXBvc2l0b3J5KG91dHB1dF9kaXIlMkMlMjBjbG9uZV9mcm9tJTNEcmVwb19uYW1lKQ==",highlighted:`<span class="hljs-keyword">from</span> huggingface_hub <span class="hljs-keyword">import</span> Repository

output_dir = model_name
repo = Repository(output_dir, clone_from=repo_name)`,wrap:!1}}),O=new g({props:{code:"ZnJvbSUyMHRxZG0uYXV0byUyMGltcG9ydCUyMHRxZG0lMEFpbXBvcnQlMjB0b3JjaCUwQWltcG9ydCUyMG1hdGglMEElMEFwcm9ncmVzc19iYXIlMjAlM0QlMjB0cWRtKHJhbmdlKG51bV90cmFpbmluZ19zdGVwcykpJTBBJTBBZm9yJTIwZXBvY2glMjBpbiUyMHJhbmdlKG51bV90cmFpbl9lcG9jaHMpJTNBJTBBJTIwJTIwJTIwJTIwJTIzJTIwSHUlRTElQkElQTVuJTIwbHV5JUUxJUJCJTg3biUwQSUyMCUyMCUyMCUyMG1vZGVsLnRyYWluKCklMEElMjAlMjAlMjAlMjBmb3IlMjBiYXRjaCUyMGluJTIwdHJhaW5fZGF0YWxvYWRlciUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG91dHB1dHMlMjAlM0QlMjBtb2RlbCgqKmJhdGNoKSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGxvc3MlMjAlM0QlMjBvdXRwdXRzLmxvc3MlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBhY2NlbGVyYXRvci5iYWNrd2FyZChsb3NzKSUwQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG9wdGltaXplci5zdGVwKCklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBscl9zY2hlZHVsZXIuc3RlcCgpJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwb3B0aW1pemVyLnplcm9fZ3JhZCgpJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwcHJvZ3Jlc3NfYmFyLnVwZGF0ZSgxKSUwQSUwQSUyMCUyMCUyMCUyMCUyMyUyMCVDNCU5MCVDMyVBMW5oJTIwZ2klQzMlQTElMEElMjAlMjAlMjAlMjBtb2RlbC5ldmFsKCklMEElMjAlMjAlMjAlMjBsb3NzZXMlMjAlM0QlMjAlNUIlNUQlMEElMjAlMjAlMjAlMjBmb3IlMjBzdGVwJTJDJTIwYmF0Y2glMjBpbiUyMGVudW1lcmF0ZShldmFsX2RhdGFsb2FkZXIpJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwd2l0aCUyMHRvcmNoLm5vX2dyYWQoKSUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG91dHB1dHMlMjAlM0QlMjBtb2RlbCgqKmJhdGNoKSUwQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGxvc3MlMjAlM0QlMjBvdXRwdXRzLmxvc3MlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBsb3NzZXMuYXBwZW5kKGFjY2VsZXJhdG9yLmdhdGhlcihsb3NzLnJlcGVhdChiYXRjaF9zaXplKSkpJTBBJTBBJTIwJTIwJTIwJTIwbG9zc2VzJTIwJTNEJTIwdG9yY2guY2F0KGxvc3NlcyklMEElMjAlMjAlMjAlMjBsb3NzZXMlMjAlM0QlMjBsb3NzZXMlNUIlM0ElMjBsZW4oZXZhbF9kYXRhc2V0KSU1RCUwQSUyMCUyMCUyMCUyMHRyeSUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMHBlcnBsZXhpdHklMjAlM0QlMjBtYXRoLmV4cCh0b3JjaC5tZWFuKGxvc3NlcykpJTBBJTIwJTIwJTIwJTIwZXhjZXB0JTIwT3ZlcmZsb3dFcnJvciUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMHBlcnBsZXhpdHklMjAlM0QlMjBmbG9hdCglMjJpbmYlMjIpJTBBJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiUzRSUzRSUzRSUyMEVwb2NoJTIwJTdCZXBvY2glN0QlM0ElMjBQZXJwbGV4aXR5JTNBJTIwJTdCcGVycGxleGl0eSU3RCUyMiklMEElMEElMjAlMjAlMjAlMjAlMjMlMjBMJUM2JUIwdSUyMHYlQzMlQTAlMjB0JUUxJUJBJUEzaSUwQSUyMCUyMCUyMCUyMGFjY2VsZXJhdG9yLndhaXRfZm9yX2V2ZXJ5b25lKCklMEElMjAlMjAlMjAlMjB1bndyYXBwZWRfbW9kZWwlMjAlM0QlMjBhY2NlbGVyYXRvci51bndyYXBfbW9kZWwobW9kZWwpJTBBJTIwJTIwJTIwJTIwdW53cmFwcGVkX21vZGVsLnNhdmVfcHJldHJhaW5lZChvdXRwdXRfZGlyJTJDJTIwc2F2ZV9mdW5jdGlvbiUzRGFjY2VsZXJhdG9yLnNhdmUpJTBBJTIwJTIwJTIwJTIwaWYlMjBhY2NlbGVyYXRvci5pc19tYWluX3Byb2Nlc3MlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjB0b2tlbml6ZXIuc2F2ZV9wcmV0cmFpbmVkKG91dHB1dF9kaXIpJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwcmVwby5wdXNoX3RvX2h1YiglMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBjb21taXRfbWVzc2FnZSUzRGYlMjJUcmFpbmluZyUyMGluJTIwcHJvZ3Jlc3MlMjBlcG9jaCUyMCU3QmVwb2NoJTdEJTIyJTJDJTIwYmxvY2tpbmclM0RGYWxzZSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCk=",highlighted:`<span class="hljs-keyword">from</span> tqdm.auto <span class="hljs-keyword">import</span> tqdm
<span class="hljs-keyword">import</span> torch
<span class="hljs-keyword">import</span> math

progress_bar = tqdm(<span class="hljs-built_in">range</span>(num_training_steps))

<span class="hljs-keyword">for</span> epoch <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(num_train_epochs):
    <span class="hljs-comment"># Huấn luyện</span>
    model.train()
    <span class="hljs-keyword">for</span> batch <span class="hljs-keyword">in</span> train_dataloader:
        outputs = model(**batch)
        loss = outputs.loss
        accelerator.backward(loss)

        optimizer.step()
        lr_scheduler.step()
        optimizer.zero_grad()
        progress_bar.update(<span class="hljs-number">1</span>)

    <span class="hljs-comment"># Đánh giá</span>
    model.<span class="hljs-built_in">eval</span>()
    losses = []
    <span class="hljs-keyword">for</span> step, batch <span class="hljs-keyword">in</span> <span class="hljs-built_in">enumerate</span>(eval_dataloader):
        <span class="hljs-keyword">with</span> torch.no_grad():
            outputs = model(**batch)

        loss = outputs.loss
        losses.append(accelerator.gather(loss.repeat(batch_size)))

    losses = torch.cat(losses)
    losses = losses[: <span class="hljs-built_in">len</span>(eval_dataset)]
    <span class="hljs-keyword">try</span>:
        perplexity = math.exp(torch.mean(losses))
    <span class="hljs-keyword">except</span> OverflowError:
        perplexity = <span class="hljs-built_in">float</span>(<span class="hljs-string">&quot;inf&quot;</span>)

    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; Epoch <span class="hljs-subst">{epoch}</span>: Perplexity: <span class="hljs-subst">{perplexity}</span>&quot;</span>)

    <span class="hljs-comment"># Lưu và tải</span>
    accelerator.wait_for_everyone()
    unwrapped_model = accelerator.unwrap_model(model)
    unwrapped_model.save_pretrained(output_dir, save_function=accelerator.save)
    <span class="hljs-keyword">if</span> accelerator.is_main_process:
        tokenizer.save_pretrained(output_dir)
        repo.push_to_hub(
            commit_message=<span class="hljs-string">f&quot;Training in progress epoch <span class="hljs-subst">{epoch}</span>&quot;</span>, blocking=<span class="hljs-literal">False</span>
        )`,wrap:!1}}),ll=new g({props:{code:"RXBvY2glMjAwJTNBJTIwUGVycGxleGl0eSUzQSUyMDExLjM5NzU0NTMwNzkwMDQ3MiUwQUVwb2NoJTIwMSUzQSUyMFBlcnBsZXhpdHklM0ElMjAxMC45MDQ5MDkzMzA5ODMwOTIlMEFFcG9jaCUyMDIlM0ElMjBQZXJwbGV4aXR5JTNBJTIwMTAuNzI5NTAzNTA1MzQwNDA5",highlighted:`<span class="hljs-meta">&gt;&gt;&gt; </span>Epoch <span class="hljs-number">0</span>: Perplexity: <span class="hljs-number">11.397545307900472</span>
<span class="hljs-meta">&gt;&gt;&gt; </span>Epoch <span class="hljs-number">1</span>: Perplexity: <span class="hljs-number">10.904909330983092</span>
<span class="hljs-meta">&gt;&gt;&gt; </span>Epoch <span class="hljs-number">2</span>: Perplexity: <span class="hljs-number">10.729503505340409</span>`,wrap:!1}}),{c(){e=u("p"),e.textContent=r,a=M(),U(y.$$.fragment),_=M(),b=u("p"),b.innerHTML=Z,V=M(),j=u("p"),j.innerHTML=v,R=M(),U(B.$$.fragment),w=M(),k=u("p"),k.innerHTML=$,S=M(),U(I.$$.fragment),X=M(),Y=u("p"),Y.innerHTML=G,Q=M(),U(jl.$$.fragment),kl=M(),H=u("p"),H.textContent=Fn,Gl=M(),U(W.$$.fragment),Hl=M(),sl=u("p"),sl.innerHTML=fl,Ll=M(),U(el.$$.fragment),al=M(),Ml=u("p"),Ml.innerHTML=pl,Bl=M(),U(L.$$.fragment),Zl=M(),q=u("p"),q.textContent=Yn,Rl=M(),U(A.$$.fragment),ql=M(),hl=u("p"),hl.textContent=Cl,Dl=M(),U(il.$$.fragment),E=M(),U(z.$$.fragment),yl=M(),D=u("p"),D.innerHTML=Hn,vl=M(),U(K.$$.fragment),Vl=M(),P=u("p"),P.textContent=Ln,Xl=M(),U(O.$$.fragment),Ql=M(),U(ll.$$.fragment),Kl=M(),cl=u("p"),cl.textContent=nl},l(i){e=T(i,"P",{"data-svelte-h":!0}),d(e)!=="svelte-z3lmgw"&&(e.textContent=r),a=h(i),o(y.$$.fragment,i),_=h(i),b=T(i,"P",{"data-svelte-h":!0}),d(b)!=="svelte-1d8sunl"&&(b.innerHTML=Z),V=h(i),j=T(i,"P",{"data-svelte-h":!0}),d(j)!=="svelte-1qr92f"&&(j.innerHTML=v),R=h(i),o(B.$$.fragment,i),w=h(i),k=T(i,"P",{"data-svelte-h":!0}),d(k)!=="svelte-17u802i"&&(k.innerHTML=$),S=h(i),o(I.$$.fragment,i),X=h(i),Y=T(i,"P",{"data-svelte-h":!0}),d(Y)!=="svelte-1r2zpst"&&(Y.innerHTML=G),Q=h(i),o(jl.$$.fragment,i),kl=h(i),H=T(i,"P",{"data-svelte-h":!0}),d(H)!=="svelte-13iq3nd"&&(H.textContent=Fn),Gl=h(i),o(W.$$.fragment,i),Hl=h(i),sl=T(i,"P",{"data-svelte-h":!0}),d(sl)!=="svelte-vuoda1"&&(sl.innerHTML=fl),Ll=h(i),o(el.$$.fragment,i),al=h(i),Ml=T(i,"P",{"data-svelte-h":!0}),d(Ml)!=="svelte-17jd41z"&&(Ml.innerHTML=pl),Bl=h(i),o(L.$$.fragment,i),Zl=h(i),q=T(i,"P",{"data-svelte-h":!0}),d(q)!=="svelte-3hdasi"&&(q.textContent=Yn),Rl=h(i),o(A.$$.fragment,i),ql=h(i),hl=T(i,"P",{"data-svelte-h":!0}),d(hl)!=="svelte-k1e3by"&&(hl.textContent=Cl),Dl=h(i),o(il.$$.fragment,i),E=h(i),o(z.$$.fragment,i),yl=h(i),D=T(i,"P",{"data-svelte-h":!0}),d(D)!=="svelte-10xgves"&&(D.innerHTML=Hn),vl=h(i),o(K.$$.fragment,i),Vl=h(i),P=T(i,"P",{"data-svelte-h":!0}),d(P)!=="svelte-1122fgz"&&(P.textContent=Ln),Xl=h(i),o(O.$$.fragment,i),Ql=h(i),o(ll.$$.fragment,i),Kl=h(i),cl=T(i,"P",{"data-svelte-h":!0}),d(cl)!=="svelte-c75a0m"&&(cl.textContent=nl)},m(i,f){s(i,e,f),s(i,a,f),m(y,i,f),s(i,_,f),s(i,b,f),s(i,V,f),s(i,j,f),s(i,R,f),m(B,i,f),s(i,w,f),s(i,k,f),s(i,S,f),m(I,i,f),s(i,X,f),s(i,Y,f),s(i,Q,f),m(jl,i,f),s(i,kl,f),s(i,H,f),s(i,Gl,f),m(W,i,f),s(i,Hl,f),s(i,sl,f),s(i,Ll,f),m(el,i,f),s(i,al,f),s(i,Ml,f),s(i,Bl,f),m(L,i,f),s(i,Zl,f),s(i,q,f),s(i,Rl,f),m(A,i,f),s(i,ql,f),s(i,hl,f),s(i,Dl,f),m(il,i,f),s(i,E,f),m(z,i,f),s(i,yl,f),s(i,D,f),s(i,vl,f),m(K,i,f),s(i,Vl,f),s(i,P,f),s(i,Xl,f),m(O,i,f),s(i,Ql,f),m(ll,i,f),s(i,Kl,f),s(i,cl,f),F=!0},i(i){F||(c(y.$$.fragment,i),c(B.$$.fragment,i),c(I.$$.fragment,i),c(jl.$$.fragment,i),c(W.$$.fragment,i),c(el.$$.fragment,i),c(L.$$.fragment,i),c(A.$$.fragment,i),c(il.$$.fragment,i),c(z.$$.fragment,i),c(K.$$.fragment,i),c(O.$$.fragment,i),c(ll.$$.fragment,i),F=!0)},o(i){p(y.$$.fragment,i),p(B.$$.fragment,i),p(I.$$.fragment,i),p(jl.$$.fragment,i),p(W.$$.fragment,i),p(el.$$.fragment,i),p(L.$$.fragment,i),p(A.$$.fragment,i),p(il.$$.fragment,i),p(z.$$.fragment,i),p(K.$$.fragment,i),p(O.$$.fragment,i),p(ll.$$.fragment,i),F=!1},d(i){i&&(n(e),n(a),n(_),n(b),n(V),n(j),n(R),n(w),n(k),n(S),n(X),n(Y),n(Q),n(kl),n(H),n(Gl),n(Hl),n(sl),n(Ll),n(al),n(Ml),n(Bl),n(Zl),n(q),n(Rl),n(ql),n(hl),n(Dl),n(E),n(yl),n(D),n(vl),n(Vl),n(P),n(Xl),n(Ql),n(Kl),n(cl)),J(y,i),J(B,i),J(I,i),J(jl,i),J(W,i),J(el,i),J(L,i),J(A,i),J(il,i),J(z,i),J(K,i),J(O,i),J(ll,i)}}}function $M(C){let e,r='✏️ <strong>Thử nghiệm thôi!</strong> Để định lượng lợi ích của việc thích ứng chuyên môn, hãy tinh chỉnh bộ phân loại trên các nhãn IMDb cho cả các checkpoint DistilBERT được huấn luyện trước và tinh chỉnh. Nếu bạn cần bồi dưỡng về phân loại văn bản, hãy xem <a href="/course/chapter3">Chương 3</a>.';return{c(){e=u("p"),e.innerHTML=r},l(a){e=T(a,"P",{"data-svelte-h":!0}),d(e)!=="svelte-f6ksed"&&(e.innerHTML=r)},m(a,y){s(a,e,y)},p:Yl,d(a){a&&n(e)}}}function WM(C){let e,r,a,y,_,b,Z,V,j,v,R,B,w="Đối với nhiều ứng dụng NLP liên quan đến các mô hình Transformer, bạn có thể chỉ cần lấy một mô hình được huấn luyện trước từ Hugging Face Hub và tinh chỉnh trực tiếp trên dữ liệu của bạn cho tác vụ hiện tại. Với điều kiện là ngữ liệu được sử dụng để huấn luyện trước không quá khác biệt với ngữ liệu được sử dụng để tinh chỉnh, việc học chuyển tiếp thường sẽ mang lại kết quả tốt.",k,$,S="Tuy nhiên, có một vài trường hợp mà trước tiên bạn sẽ muốn tinh chỉnh các mô hình ngôn ngữ trên dữ liệu của mình, trước khi huấn luyện đầu tác vụ cụ thể. Ví dụ: nếu tập dữ liệu của bạn chứa các hợp đồng pháp lý hoặc các bài báo khoa học, thì mô hình thuần Transformer như BERT thường sẽ coi các từ chuyên môn trong kho dữ liệu của bạn là token hiếm và hiệu suất kết quả có thể kém hơn. Bằng cách tinh chỉnh mô hình ngôn ngữ trên dữ liệu chuyên môn, bạn có thể tăng hiệu suất của nhiều tác vụ xuôi dòng, có nghĩa là bạn thường chỉ phải thực hiện bước này một lần!",I,X,Y='Quá trình tinh chỉnh mô hình ngôn ngữ được huấn luyện trước trên dữ liệu trong mảng này thường được gọi là <em>domain adapt</em> hay <em>thích ứng chuyên môn</em>. Nó được phổ biến vào năm 2018 bởi <a href="https://arxiv.org/abs/1801.06146" rel="nofollow">ULMFiT</a>, là một trong những kiến ​​trúc mạng thần kinh đầu tiên (dựa trên LSTM) để làm cho việc học chuyển tiếp thực sự hiệu quả cho NLP. Một ví dụ về thích ứng chuyên môn với ULMFiT được hiển thị trong hình dưới đây; trong phần này, chúng ta sẽ làm điều tương tự, nhưng với Transformer thay vì LSTM!',G,Q,jl='<img class="block dark:hidden" src="https://huggingface.co/datasets/huggingface-course/documentation-images/resolve/main/en/chapter7/ulmfit.svg" alt="ULMFiT."/> <img class="hidden dark:block" src="https://huggingface.co/datasets/huggingface-course/documentation-images/resolve/main/en/chapter7/ulmfit-dark.svg" alt="ULMFiT."/>',kl,H,Fn='Đến cuối phần này, bạn sẽ có một <a href="https://huggingface.co/huggingface-course/distilbert-base-uncased-finetuned-imdb?text=This+is+a+great+%5BMASK%5D." rel="nofollow">mô hình ngôn ngữ bị ẩn đi</a> trên Hub có thể tự động hoàn thiện câu như dưới đây:',Gl,W,Hl,sl,fl,Ll="Cùng đi sâu vào thôi!",el,al,Ml,pl,Bl,L,Zl,q,Yn='Để bắt đầu, hãy chọn một mô hình được huấn luyện trước phù hợp để tạo mô hình ngôn ngữ bị ẩn đi. Như được hiển thị trong ảnh chụp màn hình dưới đây, bạn có thể tìm thấy danh sách các ứng cử viên bằng cách áp dụng bộ lọc “Fill-Mask” trên <a href="https://huggingface.co/models?pipeline_tag=fill-mask&amp;sort=downloads" rel="nofollow">Hugging Face Hub</a>:',Rl,A,ql='<img src="https://huggingface.co/datasets/huggingface-course/documentation-images/resolve/main/en/chapter7/mlm-models.png" alt="Hub models." width="80%"/>',hl,Cl,Dl=`Mặc dù dòng mô hình BERT và RoBERTa được tải xuống nhiều nhất, chúng ta sẽ sử dụng mô hình có tên <a href="https://huggingface.co/distilbert-base-uncased" rel="nofollow">DistilBERT</a>
có thể huấn luyện nhanh hơn nhiều mà ít hoặc không bị mất hiệu suất. Mô hình này được huấn luyện bằng cách sử dụng một kỹ thuật đặc biệt có tên là <a href="https://en.wikipedia.org/wiki/Knowledge_distillation" rel="nofollow"><em>knowledge distillation</em></a>, trong đó một “mô hình giáo viên” lớn như BERT được sử dụng để hướng dẫn huấn luyện “mô hình sinh viên” có ít tham số hơn nhiều. Phần giải thích chi tiết về quá trình chắt lọc kiến ​​thức sẽ đưa chúng ta đi quá xa trong phần này, nhưng nếu bạn quan tâm, bạn có thể đọc tất cả về nó trong <a href="https://www.oreilly.com/library/view/natural-language-processing/9781098136789/" rel="nofollow"><em>Natural Language Processing with Transformers</em></a> (thường được gọi là sách giáo khoa về Transformer).`,il,E,z,yl,D,Hn="Với khoảng 67 triệu tham số, DistilBERT nhỏ hơn khoảng hai lần so với mô hình cơ sở BERT, gần như được hiểu là tăng tốc gấp hai lần khi huấn luyện - thật tuyệt! Bây giờ chúng ta hãy xem những loại token nào mô hình này dự đoán là có nhiều khả năng hoàn thành một mẫu văn bản nhỏ:",vl,K,Vl,P,Ln='Là con người, chúng ta có thể tưởng tượng ra nhiều khả năng đối với token <code>[MASK]</code>, ví dụ “day”, “ride”, hoặc “painting”. Đối với các mô hình được huấn luyện trước, các dự đoán phụ thuộc vào kho ngữ liệu mô hình đó huấn luyện, vì nó học cách chọn các mẫu thống kê có trong dữ liệu. Giống BERT, DistilBERT được huấn luyện trước trên bộ dữ liệu <a href="https://huggingface.co/datasets/wikipedia" rel="nofollow">English Wikipedia</a> và <a href="https://huggingface.co/datasets/bookcorpus" rel="nofollow">BookCorpus</a>, nên ta kì vọng các dự đoán cho <code>[MASK]</code> sẽ phản ánh các mảng này. Để dự đoán ta cần trình tokenizer của DistilBERT tạo ra các đầu vào cho mô hình, vì vậy hãy tải từ Hub:',Xl,O,Ql,ll,Kl="Với một tokenizer và một mô hình, ta có thể truyền các đoạn văn ví dụ tới mô hình, trích xuất logits, và xin ra 5 ứng cử viên:",cl,nl,F,i,f,Dn,Pl,Fe="Chúng ta có thể thấy từ kết quả đầu ra rằng các dự đoán của mô hình đề cập đến các thuật ngữ hàng ngày, điều này có lẽ không có gì đáng ngạc nhiên khi dựa trên nền tảng của Wikipedia tiếng Anh. Hãy xem cách chúng ta có thể thay đổi mảng này thành một thứ gì đó thích hợp hơn một chút - các bài đánh giá phim phân cực cao!",Kn,Ol,Pn,lt,Ye='Để giới thiệu việc thích ứng chuyên môn, chúng ta sẽ sử dụng bộ dữ liệu nổi tiếng <a href="https://huggingface.co/datasets/imdb" rel="nofollow">Large Movie Review Dataset</a>(hay viết tắt là IMDb), là tập hợp các bài đánh giá phim thường được dùng để đánh giá các mô hình phân tích cảm xúc. Bằng cách tinh chỉnh DistilBERT trên kho ngữ liệu này, chúng ta hy vọng mô hình ngôn ngữ sẽ điều chỉnh vốn từ vựng của nó từ dữ liệu thực tế của Wikipedia mà nó đã được huấn luyện trước để phù hợp với các yếu tố chủ quan hơn của các bài đánh giá phim. Chúng ta có thể lấy dữ liệu từ Hugging Face Hub bằng hàm <code>load_dataset()</code> từ 🤗 Datasets:',On,tt,ls,nt,ts,st,He="Chúng ta có thể thấy rằng mỗi phần <code>huấn luyện</code> và <code>kiểm thử</code> bao gồm 25,000 đánh giá, trong khi phần không được gắn nhãn được gọi là <code>phi giám sát</code> chứa 50,000 đánh giá. Chúng ta hãy xem một vài mẫu để có ý tưởng về loại văn bản mà ta đang xử lý. Như chúng ta đã thực hiện trong các chương trước của khóa học, chúng ta sẽ xâu chuỗi các hàm <code>Dataset.shuffle()</code> và <code>Dataset.select()</code> để tạo một mẫu ngẫu nhiên:",ns,et,ss,at,es,Mt,Le="Đúng, đây chắc chắn là những bài đánh giá phim, và nếu bạn đủ lớn, bạn thậm chí có thể hiểu nhận xét trong bài đánh giá cuối cùng về việc sở hữu phiên bản VHS 😜! Mặc dù chúng ta sẽ không cần nhãn để cho mô hình ngôn ngữ, nhưng chúng ta có thể thấy rằng <code>0</code> biểu thị một đánh giá tiêu cực, trong khi <code>1</code> tương ứng với một đánh giá tích cực.",as,$l,Ms,ht,qe='Bây giờ chúng ta đã có một cái nhìn nhanh về dữ liệu, hãy đi sâu vào việc chuẩn bị nó cho việc lập mô hình ngôn ngữ bị ẩn đi. Như chúng ta sẽ thấy, có một số bước bổ sung mà người ta cần thực hiện so với các tác vụ phân loại chuỗi mà chúng ta đã thấy trong <a href="/course/chapter3">Chương 3</a>. Đi thôi!',hs,it,is,ct,cs,pt,De="Đối với cả mô hình ngôn ngữ tự động hồi quy và bị ẩn đi, một bước tiền xử lý phổ biến là nối tất cả các mẫu và sau đó chia toàn bộ ngữ liệu thành các phần có kích thước bằng nhau. Điều này hoàn toàn khác với cách tiếp cận thông thường, khi chúng ta chỉ cần tokenize các mẫu riêng lẻ. Tại sao lại nối mọi thứ lại với nhau? Lý do là các mẫu riêng lẻ có thể bị cắt ngắn nếu chúng quá dài và điều đó sẽ dẫn đến việc mất thông tin có thể hữu ích cho tác vụ mô hình hóa ngôn ngữ!",ps,yt,Ke='Vì vậy, để bắt đầu, trước tiên chúng ta sẽ tokenize kho tài liệu của mình như bình thường, nhưng <em>không</em> đặt tùy chọn <code>truncation=True</code> trong trình tokenize của chúng ta. Chúng ta cũng sẽ lấy các ID từ nếu chúng có sẵn ((chúng sẽ có sẵn nếu ta đang sử dụng công cụ tokenize nhanh, như được mô tả trong <a href="/course/chap6/3">Chương 6</a>), vì ta sẽ cần chúng sau này để thực hiện che toàn bộ từ. Chúng ta sẽ gói nó trong một hàm đơn giản và trong khi thực hiện, ta sẽ xóa các cột <code>text</code> và <code>label</code> vì không cần chúng nữa:',ys,rt,rs,Ut,Us,ot,Pe="Vì DistilBERT là một mô hình giống như BERT, chúng ta có thể thấy rằng các văn bản được tokenize bao gồm <code>input_ids</code> và <code>attention_mask</code> ta đã thấy trong các chương khác, cũng như <code>word_ids</code> mà ta đã thêm vào.",os,mt,Oe="Gờ chúng ta đã tokenize các bài đánh giá phim của mình, bước tiếp theo là nhóm tất cả chúng lại với nhau và chia kết quả thành nhiều phần. Nhưng những khối này phải lớn đến mức nào? Điều này cuối cùng sẽ được xác định bởi dung lượng bộ nhớ GPU mà bạn có sẵn, nhưng điểm khởi đầu tốt là xem kích thước ngữ cảnh tối đa của mô hình là bao nhiêu. Điều này có thể được suy ra bằng cách kiểm tra thuộc tính <code>model_max_length</code> của tokenizer:",ms,Jt,Js,ut,us,Tt,la="Giá trị này có nguồn gốc từ tệp <em>tokenizer_config.json</em> được liên kết với một checkpoint; trong trường hợp này, chúng ta có thể thấy rằng kích thước ngữ cảnh là 512 token, giống như với BERT.",Ts,Wl,ds,dt,ta="Vì vậy, để chạy các thử nghiệm trên GPU như những GPU được tìm thấy trên Google Colab, chúng ta sẽ chọn thứ gì đó nhỏ hơn một chút có thể vừa với bộ nhớ:",ws,wt,bs,zl,gs,bt,na="Bây giờ đến phần thú vị. Để cho biết cách nối hoạt động, hãy lấy một vài bài đánh giá từ bộ huấn luyện được tokenize và in ra số lượng token cho mỗi bài đánh giá:",js,gt,fs,jt,Cs,ft,sa="We can then concatenate all these examples with a simple dictionary comprehension, as follows:",Is,Ct,_s,It,ks,_t,ea="Tuyệt vời, tổng độ dài đã được kiểm tra - vì vậy bây giờ hãy chia các bài đánh giá được nối thành các phần có kích thước được cung cấp bởi <code>block_size</code>. Để làm như vậy, chúng ta lặp qua các đặc trưng trong <code>concatenated_examples</code> và sử dụng khả năng hiểu danh sách để tạo các phần của từng đặc trưng. Kết quả là một từ điển các khối cho từng đặc trưng:",Gs,kt,Bs,Gt,Zs,Bt,aa="Như bạn có thể thấy trong ví dụ này, đoạn cuối thường sẽ nhỏ hơn kích thước đoạn tối đa. Có hai chiến lược chính để giải quyết vấn đề này:",Rs,Zt,Ma="<li>Bỏ đoạn cuối cùng nếu nó nhỏ hơn <code>chunk_size</code>.</li> <li>Đệm đoạn cuối cùng cho đến khi độ dài của nó bằng <code>chunk_size</code>.</li>",vs,Rt,ha="Chúng tôi sẽ thực hiện cách tiếp cận đầu tiên ở đây, vì vậy hãy gói tất cả logic ở trên trong một hàm duy nhất mà chúng tôi có thể áp dụng cho tập dữ liệu được tokenize của mình:",Vs,vt,Xs,Vt,ia="Lưu ý rằng trong bước cuối cùng của <code>group_texts()</code>, chúng ta tạo một cột mới <code>labels</code> là bản sao của cột <code>input_ids</code>. Như chúng ta sẽ thấy ngay sau đây, đó là bởi vì trong mô hình ngôn ngữ bị ẩn đi, mục tiêu là dự đoán các token được che ngẫu nhiên trong lô đầu vào và bằng cách tạo cột <code>labels</code>, chúng ta cung cấp sự thật cơ bản cho mô hình ngôn ngữ để học hỏi.",Qs,Xt,ca="Bây giờ, hãy áp dụng <code>group_texts()</code> cho các tập dữ liệu được tokenize của mình bằng cách sử dụng hàm <code>Dataset.map()</code> đáng tin cậy:",$s,Qt,Ws,$t,zs,Wt,pa="Bạn có thể thấy rằng việc nhóm và sau đó phân chia các đoạn văn bản đã tạo ra nhiều mẫu hơn so với 25,000 mẫu ban đầu của chúng ta cho phần tách <code>huấn luyện</code> và <code>kiểm thử</code>. Đó là bởi vì chúng ta hiện có các mẫu liên quan đến <em>token liên tục</em> trải dài trên nhiều mẫu từ kho tài liệu gốc. Bạn có thể thấy điều này một cách rõ ràng bằng cách tìm kiếm các token đặc biệt <code>[SEP]</code> và <code>[CLS]</code> trong một trong các phần:",xs,zt,Ns,xt,Ss,Nt,ya="Trong ví dụ này, bạn có thể thấy hai bài đánh giá phim trùng nhau, một bài về phim cấp ba và bài còn lại về tình trạng vô gia cư. Hãy cũng xem các nhãn trông như thế nào cho mô hình ngôn ngữ bị ẩn đi:",As,St,Es,At,Fs,Et,ra="Như mong đợi từ hàm <code>group_texts()</code> của chúng ta ở trên, hàm này trông giống hệt với <code>input_ids</code> đã được giải mã - nhưng sau đó làm thế nào để mô hình của chúng ta có thể học được bất cứ điều gì? Chúng ta đang thiếu một bước quan trọng: chèn token <code>[MASK]</code> ở các vị trí ngẫu nhiên trong đầu vào! Hãy xem cách chúng ta có thể thực hiện điều này một cách nhanh chóng trong quá trình tinh chỉnh bằng công cụ đối chiếu dữ liệu đặc biệt.",Ys,Ft,Hs,Yt,Ua='Tinh chỉnh mô hình ngôn ngữ bị ẩn đi gần giống như tinh chỉnh mô hình phân loại chuỗi, giống như chúng ta đã làm trong <a href="/course/chapter3">Chương 3</a>. Sự khác biệt duy nhất là chúng ta cần một trình đối chiếu dữ liệu đặc biệt có thể che giấu ngẫu nhiên một số token trong mỗi lô văn bản. May mắn thay, 🤗 Transformers được chuẩn bị với một <code>DataCollatorForLanguageModeling</code> dành riêng cho tác vụ này. Chúng ta chỉ cần chuyển nó vào tokenizer và tham số <code>mlm_probability</code> để chỉ định phần nào trong số các token cần che. Chúng tôi sẽ chọn 15%, là số được sử dụng cho BERT và một lựa chọn phổ biến trong các tài liệu:',Ls,Ht,qs,Lt,oa="Để xem cách hoạt động của việc che ngẫu nhiên, hãy cung cấp một vài mẫu cho trình đối chiếu dữ liệu. Vì nó mong đợi một danh sách các <code>dict</code>, trong đó mỗi <code>dict</code> đại diện cho một đoạn văn bản liền kề, đầu tiên chúng ta lặp tập dữ liệu trước khi cung cấp lô cho bộ đối chiếu. Chúng ta xóa khóa <code>&quot;word_ids&quot;</code> cho trình đối chiếu dữ liệu này vì nó không cần chúng:",Ds,qt,Ks,Dt,Ps,Kt,ma="Tốt, nó đã hoạt động! Chúng ta có thể thấy rằng <code>[MASK]</code> đã được chèn ngẫu nhiên tại các vị trí khác nhau trong văn bản. Đây sẽ là những token mà mô hình sẽ phải dự đoán trong quá trình huấn luyện - và cái hay của công cụ đối chiếu dữ liệu là nó sẽ ngẫu nhiên chèn <code>[MASK]</code> với mọi lô!",Os,xl,le,$n,Pt,Ja="Khi huấn luyện các mô hình để tạo mô hình ngôn ngữ bị ẩn đi, một kỹ thuật có thể được sử dụng là ghép các từ lại với nhau, không chỉ các token riêng lẻ. Cách tiếp cận này được gọi là <em>whole word masking</em> hay <em>che toàn bộ từ</em>. Nếu chúng ta muốn che toàn bộ từ, chúng ta sẽ cần phải tự xây dựng một bộ đối chiếu dữ liệu. Bộ đối chiếu dữ liệu chỉ là một chức năng lấy danh sách các mẫu và chuyển đổi chúng thành một lô, vì vậy hãy làm điều này ngay bây giờ! Chúng ta sẽ sử dụng các ID từ đã tính toán trước đó để tạo bản đồ giữa các chỉ số từ và các mã thông báo tương ứng, sau đó quyết định ngẫu nhiên những từ nào cần che và che các đầu vào. Lưu ý rằng tất cả các nhãn đều là <code>-100</code> ngoại trừ các nhãn tương ứng với các từ bị che.",te,rl,Ul,Wn,Ot,ua="Tiếp theo, ta cso thể thử trên một vài mẫu như trên:",ne,ln,se,tn,ee,Nl,ae,nn,Ta='Giờ chúng ta có hai trình đối chiếu dữ liệu, phần còn lại của các bước tinh chỉnh là tiêu chuẩn. Quá trình huấn luyện có thể mất một khoảng thời gian trên Google Colab nếu bạn không đủ may mắn để đạt được GPU P100 thần thoại 😭, vì vậy, trước tiên chúng ta sẽ giảm kích thước của tập huấn luyện xuống còn vài nghìn mẫu. Đừng lo lắng, chúng ta sẽ vẫn nhận được một mô hình ngôn ngữ khá tốt! Một cách nhanh chóng để giảm mẫu một tập dữ liệu trong 🤗 Datasets là thông qua hàm <code>Dataset.train_test_split()</code> mà chúng ta đã thấy trong <a href="/course/chapter5">Chapter 5</a>:',Me,sn,he,en,ie,an,da="Điều này đã tự động tạo các phần tách <code>huấn luyện</code> và <code>kiểm thử</code> mới, với kích thước tập huấn luyện được đặt thành 10,000 mẫu và xác thực được đặt thành 10% - vui lòng tăng điều này nếu bạn có GPU mạnh! Điều tiếp theo chúng ta cần làm là đăng nhập vào Hugging Face Hub. Nếu bạn đang chạy mã này trong notebook, bạn có thể làm như vậy với chức năng tiện ích sau:",ce,Mn,pe,hn,wa="sẽ hiển thị một tiện ích mà bạn có thể nhập thông tin đăng nhập của mình. Ngoài ra, bạn có thể chạy:",ye,cn,re,pn,ba="trong thiết bị đầu cuối yêu thích của bạn và đăng nhập ở đó.",Ue,ol,ml,zn,yn,oe,rn,me,Un,ga="Không giống như các tác vụ khác như phân loại văn bản hoặc hỏi đáp mà chúng ta được cung cấp một kho ngữ liệu được gắn nhãn để huấn luyện, với mô hình ngôn ngữ, ta không có bất kỳ nhãn rõ ràng nào. Vậy làm cách nào để xác định điều gì tạo nên một mô hình ngôn ngữ tốt? Giống như tính năng tự động sửa lỗi trong điện thoại của bạn, một mô hình ngôn ngữ tốt là một mô hình ngôn ngữ chỉ định xác suất cao cho các câu đúng ngữ pháp và xác suất thấp cho các câu vô nghĩa. Để giúp bạn biết rõ hơn về hình thức này, bạn có thể tìm thấy toàn bộ tập hợp “tự động sửa lỗi” trực tuyến, trong đó mô hình trong điện thoại đã tạo ra một số hoàn thành khá hài hước (và thường không phù hợp)!",Je,Jl,ul,xn,on,ue,mn,ja="Perplexity thấp hơn có nghĩa là một mô hình ngôn ngữ tốt hơn và chúng ta có thể thấy ở đây rằng mô hình bắt đầu của chúng ta có một giá trị hơi lớn. Hãy xem liệu chúng ta có thể hạ thấp nó bằng cách tinh chỉnh không! Để làm điều đó, trước tiên chúng ta chạy vòng lặp huấn luyện:",Te,Tl,dl,Nn,Jn,fa="và sau đó tính kết quả perplexity trên tập kiểm thử:",de,wl,bl,Sn,un,we,Tn,Ca="Tốt — nó giảm perplexity, cho thấy mô hình đã học được điều gì đó về mảng đánh giá phim!",be,An,Sl,ge,En,dn,je,wn,Ia="ạn có thể tương tác với mô hình đã được tinh chỉnh của mình bằng cách sử dụng tiện ích của nó trên Hub hoặc cục bộ với <code>pipeline</code> từ 🤗 Transformers. Hãy sử dụng cái sau để tải xuống mô hình của chúng tôi bằng cách sử dụng pipeline <code>fill-mask</code>:",fe,bn,Ce,gn,_a="Sau đó, chúng ta có thể cung cấp văn bản mẫu “This is a great [MASK]” và xem 5 dự đoán đầu là gì:",Ie,jn,_e,fn,ke,Cn,ka="Gọn gàng - mô hình của chúng ta rõ ràng đã điều chỉnh trọng số của nó để dự đoán các từ liên quan nhiều hơn đến phim!",Ge,In,Be,_n,Ga='Điều này kết thúc thử nghiệm đầu tiên của chúng ta với việc huấn luyện một mô hình ngôn ngữ. Trong <a href="/course/chapter7/section6">phần 6</a>, bạn sẽ học cách huấn luyện một mô hình tự động hồi quy như GPT-2 từ đầu; hãy đến đó nếu bạn muốn xem cách bạn có thể huấn luyện trước mô hình Transformer của riêng mình!',Ze,Al,Re,kn,ve,qn,Ve;_=new rM({props:{fw:C[0]}}),Z=new Fl({props:{title:"Tinh chỉnh một mô hình ngôn ngữ bị ẩn đi",local:"tinh-chỉnh-một-mô-hình-ngôn-ngữ-bị-ẩn-đi",headingTag:"h1"}});const Ba=[mM,oM],Gn=[];function Za(l,t){return l[0]==="pt"?0:1}j=Za(C),v=Gn[j]=Ba[j](C),al=new Xe({props:{id:"mqElG5QJWUg"}}),pl=new El({props:{$$slots:{default:[JM]},$$scope:{ctx:C}}}),L=new Fl({props:{title:"Chọn một mô hình huấn luyện trước cho mô hình ngôn ngữ bị ẩn đi",local:"chọn-một-mô-hình-huấn-luyện-trước-cho-mô-hình-ngôn-ngữ-bị-ẩn-đi",headingTag:"h2"}});const Ra=[TM,uM],Bn=[];function va(l,t){return l[0]==="pt"?0:1}E=va(C),z=Bn[E]=Ra[E](C),K=new g({props:{code:"dGV4dCUyMCUzRCUyMCUyMlRoaXMlMjBpcyUyMGElMjBncmVhdCUyMCU1Qk1BU0slNUQuJTIy",highlighted:'text = <span class="hljs-string">&quot;This is a great [MASK].&quot;</span>',wrap:!1}}),O=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Ub2tlbml6ZXIlMEElMEF0b2tlbml6ZXIlMjAlM0QlMjBBdXRvVG9rZW5pemVyLmZyb21fcHJldHJhaW5lZChtb2RlbF9jaGVja3BvaW50KQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)`,wrap:!1}});const Va=[wM,dM],Zn=[];function Xa(l,t){return l[0]==="pt"?0:1}nl=Xa(C),F=Zn[nl]=Va[nl](C),f=new g({props:{code:"JyUzRSUzRSUzRSUyMFRoaXMlMjBpcyUyMGElMjBncmVhdCUyMGRlYWwuJyUwQSclM0UlM0UlM0UlMjBUaGlzJTIwaXMlMjBhJTIwZ3JlYXQlMjBzdWNjZXNzLiclMEEnJTNFJTNFJTNFJTIwVGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwYWR2ZW50dXJlLiclMEEnJTNFJTNFJTNFJTIwVGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwaWRlYS4nJTBBJyUzRSUzRSUzRSUyMFRoaXMlMjBpcyUyMGElMjBncmVhdCUyMGZlYXQuJw==",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great deal.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great success.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great adventure.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great idea.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great feat.&#x27;</span>`,wrap:!1}}),Ol=new Fl({props:{title:"Bộ dữ liệu",local:"bộ-dữ-liệu",headingTag:"h2"}}),tt=new g({props:{code:"ZnJvbSUyMGRhdGFzZXRzJTIwaW1wb3J0JTIwbG9hZF9kYXRhc2V0JTBBJTBBaW1kYl9kYXRhc2V0JTIwJTNEJTIwbG9hZF9kYXRhc2V0KCUyMmltZGIlMjIpJTBBaW1kYl9kYXRhc2V0",highlighted:`<span class="hljs-keyword">from</span> datasets <span class="hljs-keyword">import</span> load_dataset

imdb_dataset = load_dataset(<span class="hljs-string">&quot;imdb&quot;</span>)
imdb_dataset`,wrap:!1}}),nt=new g({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ3RleHQnJTJDJTIwJ2xhYmVsJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMjUwMDAlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTIwJTIwJTIwJTIwdGVzdCUzQSUyMERhdGFzZXQoJTdCJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZmVhdHVyZXMlM0ElMjAlNUIndGV4dCclMkMlMjAnbGFiZWwnJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbnVtX3Jvd3MlM0ElMjAyNTAwMCUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB1bnN1cGVydmlzZWQlM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ3RleHQnJTJDJTIwJ2xhYmVsJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwNTAwMDAlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTdEKQ==",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;text&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>],
        num_rows: <span class="hljs-number">25000</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;text&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>],
        num_rows: <span class="hljs-number">25000</span>
    })
    unsupervised: Dataset({
        features: [<span class="hljs-string">&#x27;text&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>],
        num_rows: <span class="hljs-number">50000</span>
    })
})`,wrap:!1}}),et=new g({props:{code:"c2FtcGxlJTIwJTNEJTIwaW1kYl9kYXRhc2V0JTVCJTIydHJhaW4lMjIlNUQuc2h1ZmZsZShzZWVkJTNENDIpLnNlbGVjdChyYW5nZSgzKSklMEElMEFmb3IlMjByb3clMjBpbiUyMHNhbXBsZSUzQSUwQSUyMCUyMCUyMCUyMHByaW50KGYlMjIlNUNuJyUzRSUzRSUzRSUyMFJldmlldyUzQSUyMCU3QnJvdyU1Qid0ZXh0JyU1RCU3RCclMjIpJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiclM0UlM0UlM0UlMjBMYWJlbCUzQSUyMCU3QnJvdyU1QidsYWJlbCclNUQlN0QnJTIyKQ==",highlighted:`sample = imdb_dataset[<span class="hljs-string">&quot;train&quot;</span>].shuffle(seed=<span class="hljs-number">42</span>).select(<span class="hljs-built_in">range</span>(<span class="hljs-number">3</span>))

<span class="hljs-keyword">for</span> row <span class="hljs-keyword">in</span> sample:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;\\n&#x27;&gt;&gt;&gt; Review: <span class="hljs-subst">{row[<span class="hljs-string">&#x27;text&#x27;</span>]}</span>&#x27;&quot;</span>)
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; Label: <span class="hljs-subst">{row[<span class="hljs-string">&#x27;label&#x27;</span>]}</span>&#x27;&quot;</span>)`,wrap:!1}}),at=new g({props:{code:" ",highlighted:`
<span class="hljs-string">&#x27;&gt;&gt;&gt; Review: This is your typical Priyadarshan movie--a bunch of loony characters out on some silly mission. His signature climax has the entire cast of the film coming together and fighting each other in some crazy moshpit over hidden money. Whether it is a winning lottery ticket in Malamaal Weekly, black money in Hera Pheri, &quot;kodokoo&quot; in Phir Hera Pheri, etc., etc., the director is becoming ridiculously predictable. Don\\&#x27;t get me wrong; as clichéd and preposterous his movies may be, I usually end up enjoying the comedy. However, in most his previous movies there has actually been some good humor, (Hungama and Hera Pheri being noteworthy ones). Now, the hilarity of his films is fading as he is using the same formula over and over again.&lt;br /&gt;&lt;br /&gt;Songs are good. Tanushree Datta looks awesome. Rajpal Yadav is irritating, and Tusshar is not a whole lot better. Kunal Khemu is OK, and Sharman Joshi is the best.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Label: 0&#x27;</span>

<span class="hljs-string">&#x27;&gt;&gt;&gt; Review: Okay, the story makes no sense, the characters lack any dimensionally, the best dialogue is ad-libs about the low quality of movie, the cinematography is dismal, and only editing saves a bit of the muddle, but Sam&quot; Peckinpah directed the film. Somehow, his direction is not enough. For those who appreciate Peckinpah and his great work, this movie is a disappointment. Even a great cast cannot redeem the time the viewer wastes with this minimal effort.&lt;br /&gt;&lt;br /&gt;The proper response to the movie is the contempt that the director San Peckinpah, James Caan, Robert Duvall, Burt Young, Bo Hopkins, Arthur Hill, and even Gig Young bring to their work. Watch the great Peckinpah films. Skip this mess.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Label: 0&#x27;</span>

<span class="hljs-string">&#x27;&gt;&gt;&gt; Review: I saw this movie at the theaters when I was about 6 or 7 years old. I loved it then, and have recently come to own a VHS version. &lt;br /&gt;&lt;br /&gt;My 4 and 6 year old children love this movie and have been asking again and again to watch it. &lt;br /&gt;&lt;br /&gt;I have enjoyed watching it again too. Though I have to admit it is not as good on a little TV.&lt;br /&gt;&lt;br /&gt;I do not have older children so I do not know what they would think of it. &lt;br /&gt;&lt;br /&gt;The songs are very cute. My daughter keeps singing them over and over.&lt;br /&gt;&lt;br /&gt;Hope this helps.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Label: 1&#x27;</span>`,wrap:!1}}),$l=new El({props:{$$slots:{default:[bM]},$$scope:{ctx:C}}}),it=new Fl({props:{title:"Tiền xử lý dữ liệu",local:"tiền-xử-lý-dữ-liệu",headingTag:"h2"}}),ct=new Xe({props:{id:"8PmhEIXhBvI"}}),rt=new g({props:{code:"ZGVmJTIwdG9rZW5pemVfZnVuY3Rpb24oZXhhbXBsZXMpJTNBJTBBJTIwJTIwJTIwJTIwcmVzdWx0JTIwJTNEJTIwdG9rZW5pemVyKGV4YW1wbGVzJTVCJTIydGV4dCUyMiU1RCklMEElMjAlMjAlMjAlMjBpZiUyMHRva2VuaXplci5pc19mYXN0JTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwcmVzdWx0JTVCJTIyd29yZF9pZHMlMjIlNUQlMjAlM0QlMjAlNUJyZXN1bHQud29yZF9pZHMoaSklMjBmb3IlMjBpJTIwaW4lMjByYW5nZShsZW4ocmVzdWx0JTVCJTIyaW5wdXRfaWRzJTIyJTVEKSklNUQlMEElMjAlMjAlMjAlMjByZXR1cm4lMjByZXN1bHQlMEElMEElMEElMjMlMjBEJUMzJUI5bmclMjBiYXRjaGVkJTNEVHJ1ZSUyMCVDNCU5MSVFMSVCQiU4MyUyMGslQzMlQURjaCUyMGhvJUUxJUJBJUExdCUyMCVDNCU5MWElMjBsdSVFMSVCQiU5M25nJTIwbmhhbmghJTBBdG9rZW5pemVkX2RhdGFzZXRzJTIwJTNEJTIwaW1kYl9kYXRhc2V0Lm1hcCglMEElMjAlMjAlMjAlMjB0b2tlbml6ZV9mdW5jdGlvbiUyQyUyMGJhdGNoZWQlM0RUcnVlJTJDJTIwcmVtb3ZlX2NvbHVtbnMlM0QlNUIlMjJ0ZXh0JTIyJTJDJTIwJTIybGFiZWwlMjIlNUQlMEEpJTBBdG9rZW5pemVkX2RhdGFzZXRz",highlighted:`<span class="hljs-keyword">def</span> <span class="hljs-title function_">tokenize_function</span>(<span class="hljs-params">examples</span>):
    result = tokenizer(examples[<span class="hljs-string">&quot;text&quot;</span>])
    <span class="hljs-keyword">if</span> tokenizer.is_fast:
        result[<span class="hljs-string">&quot;word_ids&quot;</span>] = [result.word_ids(i) <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-built_in">len</span>(result[<span class="hljs-string">&quot;input_ids&quot;</span>]))]
    <span class="hljs-keyword">return</span> result


<span class="hljs-comment"># Dùng batched=True để kích hoạt đa luồng nhanh!</span>
tokenized_datasets = imdb_dataset.<span class="hljs-built_in">map</span>(
    tokenize_function, batched=<span class="hljs-literal">True</span>, remove_columns=[<span class="hljs-string">&quot;text&quot;</span>, <span class="hljs-string">&quot;label&quot;</span>]
)
tokenized_datasets`,wrap:!1}}),Ut=new g({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpbnB1dF9pZHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMjUwMDAlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTIwJTIwJTIwJTIwdGVzdCUzQSUyMERhdGFzZXQoJTdCJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZmVhdHVyZXMlM0ElMjAlNUInYXR0ZW50aW9uX21hc2snJTJDJTIwJ2lucHV0X2lkcyclMkMlMjAnd29yZF9pZHMnJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbnVtX3Jvd3MlM0ElMjAyNTAwMCUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB1bnN1cGVydmlzZWQlM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpbnB1dF9pZHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwNTAwMDAlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTdEKQ==",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">25000</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">25000</span>
    })
    unsupervised: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">50000</span>
    })
})`,wrap:!1}}),Jt=new g({props:{code:"dG9rZW5pemVyLm1vZGVsX21heF9sZW5ndGg=",highlighted:"tokenizer.model_max_length",wrap:!1}}),ut=new g({props:{code:"NTEy",highlighted:'<span class="hljs-number">512</span>',wrap:!1}}),Wl=new El({props:{$$slots:{default:[gM]},$$scope:{ctx:C}}}),wt=new g({props:{code:"Y2h1bmtfc2l6ZSUyMCUzRCUyMDEyOA==",highlighted:'chunk_size = <span class="hljs-number">128</span>',wrap:!1}}),zl=new El({props:{warning:!0,$$slots:{default:[jM]},$$scope:{ctx:C}}}),gt=new g({props:{code:"JTIzJTIwVCVFMSVCQSVBMW8lMjByYSUyMG0lRTElQkIlOTl0JTIwZGFuaCUyMHMlQzMlQTFjaCUyMGMlQzMlQTFjJTIwZGFuaCUyMHMlQzMlQTFjaCUyMGNobyUyMHQlRTElQkIlQUJuZyUyMCVDNCU5MSVFMSVCQSVCN2MlMjB0ciVDNiVCMG5nJTBBdG9rZW5pemVkX3NhbXBsZXMlMjAlM0QlMjB0b2tlbml6ZWRfZGF0YXNldHMlNUIlMjJ0cmFpbiUyMiU1RCU1QiUzQTMlNUQlMEElMEFmb3IlMjBpZHglMkMlMjBzYW1wbGUlMjBpbiUyMGVudW1lcmF0ZSh0b2tlbml6ZWRfc2FtcGxlcyU1QiUyMmlucHV0X2lkcyUyMiU1RCklM0ElMEElMjAlMjAlMjAlMjBwcmludChmJTIyJyUzRSUzRSUzRSUyMFJldmlldyUyMCU3QmlkeCU3RCUyMGxlbmd0aCUzQSUyMCU3QmxlbihzYW1wbGUpJTdEJyUyMik=",highlighted:`<span class="hljs-comment"># Tạo ra một danh sách các danh sách cho từng đặc trưng</span>
tokenized_samples = tokenized_datasets[<span class="hljs-string">&quot;train&quot;</span>][:<span class="hljs-number">3</span>]

<span class="hljs-keyword">for</span> idx, sample <span class="hljs-keyword">in</span> <span class="hljs-built_in">enumerate</span>(tokenized_samples[<span class="hljs-string">&quot;input_ids&quot;</span>]):
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; Review <span class="hljs-subst">{idx}</span> length: <span class="hljs-subst">{<span class="hljs-built_in">len</span>(sample)}</span>&#x27;&quot;</span>)`,wrap:!1}}),jt=new g({props:{code:"JyUzRSUzRSUzRSUyMFJldmlldyUyMDAlMjBsZW5ndGglM0ElMjAyMDAnJTBBJyUzRSUzRSUzRSUyMFJldmlldyUyMDElMjBsZW5ndGglM0ElMjA1NTknJTBBJyUzRSUzRSUzRSUyMFJldmlldyUyMDIlMjBsZW5ndGglM0ElMjAxOTIn",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; Review 0 length: 200&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Review 1 length: 559&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Review 2 length: 192&#x27;</span>`,wrap:!1}}),Ct=new g({props:{code:"Y29uY2F0ZW5hdGVkX2V4YW1wbGVzJTIwJTNEJTIwJTdCJTBBJTIwJTIwJTIwJTIwayUzQSUyMHN1bSh0b2tlbml6ZWRfc2FtcGxlcyU1QmslNUQlMkMlMjAlNUIlNUQpJTIwZm9yJTIwayUyMGluJTIwdG9rZW5pemVkX3NhbXBsZXMua2V5cygpJTBBJTdEJTBBdG90YWxfbGVuZ3RoJTIwJTNEJTIwbGVuKGNvbmNhdGVuYXRlZF9leGFtcGxlcyU1QiUyMmlucHV0X2lkcyUyMiU1RCklMEFwcmludChmJTIyJyUzRSUzRSUzRSUyMENvbmNhdGVuYXRlZCUyMHJldmlld3MlMjBsZW5ndGglM0ElMjAlN0J0b3RhbF9sZW5ndGglN0QnJTIyKQ==",highlighted:`concatenated_examples = {
    k: <span class="hljs-built_in">sum</span>(tokenized_samples[k], []) <span class="hljs-keyword">for</span> k <span class="hljs-keyword">in</span> tokenized_samples.keys()
}
total_length = <span class="hljs-built_in">len</span>(concatenated_examples[<span class="hljs-string">&quot;input_ids&quot;</span>])
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; Concatenated reviews length: <span class="hljs-subst">{total_length}</span>&#x27;&quot;</span>)`,wrap:!1}}),It=new g({props:{code:"JyUzRSUzRSUzRSUyMENvbmNhdGVuYXRlZCUyMHJldmlld3MlMjBsZW5ndGglM0ElMjA5NTEn",highlighted:'<span class="hljs-string">&#x27;&gt;&gt;&gt; Concatenated reviews length: 951&#x27;</span>',wrap:!1}}),kt=new g({props:{code:"Y2h1bmtzJTIwJTNEJTIwJTdCJTBBJTIwJTIwJTIwJTIwayUzQSUyMCU1QnQlNUJpJTIwJTNBJTIwaSUyMCUyQiUyMGNodW5rX3NpemUlNUQlMjBmb3IlMjBpJTIwaW4lMjByYW5nZSgwJTJDJTIwdG90YWxfbGVuZ3RoJTJDJTIwY2h1bmtfc2l6ZSklNUQlMEElMjAlMjAlMjAlMjBmb3IlMjBrJTJDJTIwdCUyMGluJTIwY29uY2F0ZW5hdGVkX2V4YW1wbGVzLml0ZW1zKCklMEElN0QlMEElMEFmb3IlMjBjaHVuayUyMGluJTIwY2h1bmtzJTVCJTIyaW5wdXRfaWRzJTIyJTVEJTNBJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiclM0UlM0UlM0UlMjBDaHVuayUyMGxlbmd0aCUzQSUyMCU3QmxlbihjaHVuayklN0QnJTIyKQ==",highlighted:`chunks = {
    k: [t[i : i + chunk_size] <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-number">0</span>, total_length, chunk_size)]
    <span class="hljs-keyword">for</span> k, t <span class="hljs-keyword">in</span> concatenated_examples.items()
}

<span class="hljs-keyword">for</span> chunk <span class="hljs-keyword">in</span> chunks[<span class="hljs-string">&quot;input_ids&quot;</span>]:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; Chunk length: <span class="hljs-subst">{<span class="hljs-built_in">len</span>(chunk)}</span>&#x27;&quot;</span>)`,wrap:!1}}),Gt=new g({props:{code:"JyUzRSUzRSUzRSUyMENodW5rJTIwbGVuZ3RoJTNBJTIwMTI4JyUwQSclM0UlM0UlM0UlMjBDaHVuayUyMGxlbmd0aCUzQSUyMDEyOCclMEEnJTNFJTNFJTNFJTIwQ2h1bmslMjBsZW5ndGglM0ElMjAxMjgnJTBBJyUzRSUzRSUzRSUyMENodW5rJTIwbGVuZ3RoJTNBJTIwMTI4JyUwQSclM0UlM0UlM0UlMjBDaHVuayUyMGxlbmd0aCUzQSUyMDEyOCclMEEnJTNFJTNFJTNFJTIwQ2h1bmslMjBsZW5ndGglM0ElMjAxMjgnJTBBJyUzRSUzRSUzRSUyMENodW5rJTIwbGVuZ3RoJTNBJTIwMTI4JyUwQSclM0UlM0UlM0UlMjBDaHVuayUyMGxlbmd0aCUzQSUyMDU1Jw==",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 55&#x27;</span>`,wrap:!1}}),vt=new g({props:{code:"ZGVmJTIwZ3JvdXBfdGV4dHMoZXhhbXBsZXMpJTNBJTBBJTIwJTIwJTIwJTIwJTIzJTIwTiVFMSVCQiU5MWklMjB0JUUxJUJBJUE1dCUyMGMlRTElQkElQTMlMjBjJUMzJUExYyUyMHYlQzQlODNuJTIwYiVFMSVCQSVBM24lMEElMjAlMjAlMjAlMjBjb25jYXRlbmF0ZWRfZXhhbXBsZXMlMjAlM0QlMjAlN0JrJTNBJTIwc3VtKGV4YW1wbGVzJTVCayU1RCUyQyUyMCU1QiU1RCklMjBmb3IlMjBrJTIwaW4lMjBleGFtcGxlcy5rZXlzKCklN0QlMEElMjAlMjAlMjAlMjAlMjMlMjBUJUMzJUFEbmglMjAlQzQlOTElRTElQkIlOTklMjBkJUMzJUEwaSUyMGMlRTElQkIlQTdhJTIwYyVDMyVBMWMlMjB2JUM0JTgzbiUyMGIlRTElQkElQTNuJTIwJUM0JTkxJUM2JUIwJUUxJUJCJUEzYyUyMG4lRTElQkIlOTFpJTBBJTIwJTIwJTIwJTIwdG90YWxfbGVuZ3RoJTIwJTNEJTIwbGVuKGNvbmNhdGVuYXRlZF9leGFtcGxlcyU1Qmxpc3QoZXhhbXBsZXMua2V5cygpKSU1QjAlNUQlNUQpJTBBJTIwJTIwJTIwJTIwJTIzJTIwQ2glQzMlQkFuZyUyMHQlQzMlQjRpJTIwYiVFMSVCQiU4RiUyMCVDNCU5MW8lRTElQkElQTFuJTIwY3UlRTElQkIlOTFpJTIwYyVDMyVCOW5nJTIwbiVFMSVCQSVCRnUlMjBuJUMzJUIzJTIwbmglRTElQkIlOEYlMjBoJUM2JUExbiUyMGNodW5rX3NpemUlMEElMjAlMjAlMjAlMjB0b3RhbF9sZW5ndGglMjAlM0QlMjAodG90YWxfbGVuZ3RoJTIwJTJGJTJGJTIwY2h1bmtfc2l6ZSklMjAqJTIwY2h1bmtfc2l6ZSUwQSUyMCUyMCUyMCUyMCUyMyUyMENoaWElMjBwaCVFMSVCQSVBN24lMjB0aGVvJTIwbWF4X2xlbiUwQSUyMCUyMCUyMCUyMHJlc3VsdCUyMCUzRCUyMCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGslM0ElMjAlNUJ0JTVCaSUyMCUzQSUyMGklMjAlMkIlMjBjaHVua19zaXplJTVEJTIwZm9yJTIwaSUyMGluJTIwcmFuZ2UoMCUyQyUyMHRvdGFsX2xlbmd0aCUyQyUyMGNodW5rX3NpemUpJTVEJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZm9yJTIwayUyQyUyMHQlMjBpbiUyMGNvbmNhdGVuYXRlZF9leGFtcGxlcy5pdGVtcygpJTBBJTIwJTIwJTIwJTIwJTdEJTBBJTIwJTIwJTIwJTIwJTIzJTIwVCVFMSVCQSVBMW8lMjBjJUUxJUJCJTk5dCUyMG5oJUMzJUEzbiUyMG0lRTElQkIlOUJpJTBBJTIwJTIwJTIwJTIwcmVzdWx0JTVCJTIybGFiZWxzJTIyJTVEJTIwJTNEJTIwcmVzdWx0JTVCJTIyaW5wdXRfaWRzJTIyJTVELmNvcHkoKSUwQSUyMCUyMCUyMCUyMHJldHVybiUyMHJlc3VsdA==",highlighted:`<span class="hljs-keyword">def</span> <span class="hljs-title function_">group_texts</span>(<span class="hljs-params">examples</span>):
    <span class="hljs-comment"># Nối tất cả các văn bản</span>
    concatenated_examples = {k: <span class="hljs-built_in">sum</span>(examples[k], []) <span class="hljs-keyword">for</span> k <span class="hljs-keyword">in</span> examples.keys()}
    <span class="hljs-comment"># Tính độ dài của các văn bản được nối</span>
    total_length = <span class="hljs-built_in">len</span>(concatenated_examples[<span class="hljs-built_in">list</span>(examples.keys())[<span class="hljs-number">0</span>]])
    <span class="hljs-comment"># Chúng tôi bỏ đoạn cuối cùng nếu nó nhỏ hơn chunk_size</span>
    total_length = (total_length // chunk_size) * chunk_size
    <span class="hljs-comment"># Chia phần theo max_len</span>
    result = {
        k: [t[i : i + chunk_size] <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-number">0</span>, total_length, chunk_size)]
        <span class="hljs-keyword">for</span> k, t <span class="hljs-keyword">in</span> concatenated_examples.items()
    }
    <span class="hljs-comment"># Tạo cột nhãn mới</span>
    result[<span class="hljs-string">&quot;labels&quot;</span>] = result[<span class="hljs-string">&quot;input_ids&quot;</span>].copy()
    <span class="hljs-keyword">return</span> result`,wrap:!1}}),Qt=new g({props:{code:"bG1fZGF0YXNldHMlMjAlM0QlMjB0b2tlbml6ZWRfZGF0YXNldHMubWFwKGdyb3VwX3RleHRzJTJDJTIwYmF0Y2hlZCUzRFRydWUpJTBBbG1fZGF0YXNldHM=",highlighted:`lm_datasets = tokenized_datasets.<span class="hljs-built_in">map</span>(group_texts, batched=<span class="hljs-literal">True</span>)
lm_datasets`,wrap:!1}}),$t=new g({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpbnB1dF9pZHMnJTJDJTIwJ2xhYmVscyclMkMlMjAnd29yZF9pZHMnJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbnVtX3Jvd3MlM0ElMjA2MTI4OSUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB0ZXN0JTNBJTIwRGF0YXNldCglN0IlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlcyUzQSUyMCU1QidhdHRlbnRpb25fbWFzayclMkMlMjAnaW5wdXRfaWRzJyUyQyUyMCdsYWJlbHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwNTk5MDUlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTIwJTIwJTIwJTIwdW5zdXBlcnZpc2VkJTNBJTIwRGF0YXNldCglN0IlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlcyUzQSUyMCU1QidhdHRlbnRpb25fbWFzayclMkMlMjAnaW5wdXRfaWRzJyUyQyUyMCdsYWJlbHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMTIyOTYzJTBBJTIwJTIwJTIwJTIwJTdEKSUwQSU3RCk=",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">61289</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">59905</span>
    })
    unsupervised: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">122963</span>
    })
})`,wrap:!1}}),zt=new g({props:{code:"dG9rZW5pemVyLmRlY29kZShsbV9kYXRhc2V0cyU1QiUyMnRyYWluJTIyJTVEJTVCMSU1RCU1QiUyMmlucHV0X2lkcyUyMiU1RCk=",highlighted:'tokenizer.decode(lm_datasets[<span class="hljs-string">&quot;train&quot;</span>][<span class="hljs-number">1</span>][<span class="hljs-string">&quot;input_ids&quot;</span>])',wrap:!1}}),xt=new g({props:{code:"JTIyLi4uLiUyMGF0Li4uLi4uLi4uLiUyMGhpZ2guJTIwYSUyMGNsYXNzaWMlMjBsaW5lJTIwJTNBJTIwaW5zcGVjdG9yJTIwJTNBJTIwaSdtJTIwaGVyZSUyMHRvJTIwc2FjayUyMG9uZSUyMG9mJTIweW91ciUyMHRlYWNoZXJzLiUyMHN0dWRlbnQlMjAlM0ElMjB3ZWxjb21lJTIwdG8lMjBicm9td2VsbCUyMGhpZ2guJTIwaSUyMGV4cGVjdCUyMHRoYXQlMjBtYW55JTIwYWR1bHRzJTIwb2YlMjBteSUyMGFnZSUyMHRoaW5rJTIwdGhhdCUyMGJyb213ZWxsJTIwaGlnaCUyMGlzJTIwZmFyJTIwZmV0Y2hlZC4lMjB3aGF0JTIwYSUyMHBpdHklMjB0aGF0JTIwaXQlMjBpc24ndCElMjAlNUJTRVAlNUQlMjAlNUJDTFMlNUQlMjBob21lbGVzc25lc3MlMjAoJTIwb3IlMjBob3VzZWxlc3NuZXNzJTIwYXMlMjBnZW9yZ2UlMjBjYXJsaW4lMjBzdGF0ZWQlMjApJTIwaGFzJTIwYmVlbiUyMGFuJTIwaXNzdWUlMjBmb3IlMjB5ZWFycyUyMGJ1dCUyMG5ldmVyJTIwYSUyMHBsYW4lMjB0byUyMGhlbHAlMjB0aG9zZSUyMG9uJTIwdGhlJTIwc3RyZWV0JTIwdGhhdCUyMHdlcmUlMjBvbmNlJTIwY29uc2lkZXJlZCUyMGh1bWFuJTIwd2hvJTIwZGlkJTIwZXZlcnl0aGluZyUyMGZyb20lMjBnb2luZyUyMHRvJTIwc2Nob29sJTJDJTIwd29yayUyQyUyMG9yJTIwdm90ZSUyMGZvciUyMHRoZSUyMG1hdHRlci4lMjBtb3N0JTIwcGVvcGxlJTIwdGhpbmslMjBvZiUyMHRoZSUyMGhvbWVsZXNzJTIy",highlighted:'<span class="hljs-string">&quot;.... at.......... high. a classic line : inspector : i&#x27;m here to sack one of your teachers. student : welcome to bromwell high. i expect that many adults of my age think that bromwell high is far fetched. what a pity that it isn&#x27;t! [SEP] [CLS] homelessness ( or houselessness as george carlin stated ) has been an issue for years but never a plan to help those on the street that were once considered human who did everything from going to school, work, or vote for the matter. most people think of the homeless&quot;</span>',wrap:!1}}),St=new g({props:{code:"dG9rZW5pemVyLmRlY29kZShsbV9kYXRhc2V0cyU1QiUyMnRyYWluJTIyJTVEJTVCMSU1RCU1QiUyMmxhYmVscyUyMiU1RCk=",highlighted:'tokenizer.decode(lm_datasets[<span class="hljs-string">&quot;train&quot;</span>][<span class="hljs-number">1</span>][<span class="hljs-string">&quot;labels&quot;</span>])',wrap:!1}}),At=new g({props:{code:"JTIyLi4uLiUyMGF0Li4uLi4uLi4uLiUyMGhpZ2guJTIwYSUyMGNsYXNzaWMlMjBsaW5lJTIwJTNBJTIwaW5zcGVjdG9yJTIwJTNBJTIwaSdtJTIwaGVyZSUyMHRvJTIwc2FjayUyMG9uZSUyMG9mJTIweW91ciUyMHRlYWNoZXJzLiUyMHN0dWRlbnQlMjAlM0ElMjB3ZWxjb21lJTIwdG8lMjBicm9td2VsbCUyMGhpZ2guJTIwaSUyMGV4cGVjdCUyMHRoYXQlMjBtYW55JTIwYWR1bHRzJTIwb2YlMjBteSUyMGFnZSUyMHRoaW5rJTIwdGhhdCUyMGJyb213ZWxsJTIwaGlnaCUyMGlzJTIwZmFyJTIwZmV0Y2hlZC4lMjB3aGF0JTIwYSUyMHBpdHklMjB0aGF0JTIwaXQlMjBpc24ndCElMjAlNUJTRVAlNUQlMjAlNUJDTFMlNUQlMjBob21lbGVzc25lc3MlMjAoJTIwb3IlMjBob3VzZWxlc3NuZXNzJTIwYXMlMjBnZW9yZ2UlMjBjYXJsaW4lMjBzdGF0ZWQlMjApJTIwaGFzJTIwYmVlbiUyMGFuJTIwaXNzdWUlMjBmb3IlMjB5ZWFycyUyMGJ1dCUyMG5ldmVyJTIwYSUyMHBsYW4lMjB0byUyMGhlbHAlMjB0aG9zZSUyMG9uJTIwdGhlJTIwc3RyZWV0JTIwdGhhdCUyMHdlcmUlMjBvbmNlJTIwY29uc2lkZXJlZCUyMGh1bWFuJTIwd2hvJTIwZGlkJTIwZXZlcnl0aGluZyUyMGZyb20lMjBnb2luZyUyMHRvJTIwc2Nob29sJTJDJTIwd29yayUyQyUyMG9yJTIwdm90ZSUyMGZvciUyMHRoZSUyMG1hdHRlci4lMjBtb3N0JTIwcGVvcGxlJTIwdGhpbmslMjBvZiUyMHRoZSUyMGhvbWVsZXNzJTIy",highlighted:'<span class="hljs-string">&quot;.... at.......... high. a classic line : inspector : i&#x27;m here to sack one of your teachers. student : welcome to bromwell high. i expect that many adults of my age think that bromwell high is far fetched. what a pity that it isn&#x27;t! [SEP] [CLS] homelessness ( or houselessness as george carlin stated ) has been an issue for years but never a plan to help those on the street that were once considered human who did everything from going to school, work, or vote for the matter. most people think of the homeless&quot;</span>',wrap:!1}}),Ft=new Fl({props:{title:"Tinh chỉnh DistilBERT với API Trainer",local:"tinh-chỉnh-distilbert-với-api-trainer",headingTag:"h2"}}),Ht=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMERhdGFDb2xsYXRvckZvckxhbmd1YWdlTW9kZWxpbmclMEElMEFkYXRhX2NvbGxhdG9yJTIwJTNEJTIwRGF0YUNvbGxhdG9yRm9yTGFuZ3VhZ2VNb2RlbGluZyh0b2tlbml6ZXIlM0R0b2tlbml6ZXIlMkMlMjBtbG1fcHJvYmFiaWxpdHklM0QwLjE1KQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> DataCollatorForLanguageModeling

data_collator = DataCollatorForLanguageModeling(tokenizer=tokenizer, mlm_probability=<span class="hljs-number">0.15</span>)`,wrap:!1}}),qt=new g({props:{code:"c2FtcGxlcyUyMCUzRCUyMCU1QmxtX2RhdGFzZXRzJTVCJTIydHJhaW4lMjIlNUQlNUJpJTVEJTIwZm9yJTIwaSUyMGluJTIwcmFuZ2UoMiklNUQlMEFmb3IlMjBzYW1wbGUlMjBpbiUyMHNhbXBsZXMlM0ElMEElMjAlMjAlMjAlMjBfJTIwJTNEJTIwc2FtcGxlLnBvcCglMjJ3b3JkX2lkcyUyMiklMEElMEFmb3IlMjBjaHVuayUyMGluJTIwZGF0YV9jb2xsYXRvcihzYW1wbGVzKSU1QiUyMmlucHV0X2lkcyUyMiU1RCUzQSUwQSUyMCUyMCUyMCUyMHByaW50KGYlMjIlNUNuJyUzRSUzRSUzRSUyMCU3QnRva2VuaXplci5kZWNvZGUoY2h1bmspJTdEJyUyMik=",highlighted:`samples = [lm_datasets[<span class="hljs-string">&quot;train&quot;</span>][i] <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-number">2</span>)]
<span class="hljs-keyword">for</span> sample <span class="hljs-keyword">in</span> samples:
    _ = sample.pop(<span class="hljs-string">&quot;word_ids&quot;</span>)

<span class="hljs-keyword">for</span> chunk <span class="hljs-keyword">in</span> data_collator(samples)[<span class="hljs-string">&quot;input_ids&quot;</span>]:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;\\n&#x27;&gt;&gt;&gt; <span class="hljs-subst">{tokenizer.decode(chunk)}</span>&#x27;&quot;</span>)`,wrap:!1}}),Dt=new g({props:{code:"JyUzRSUzRSUzRSUyMCU1QkNMUyU1RCUyMGJyb213ZWxsJTIwJTVCTUFTSyU1RCUyMGlzJTIwYSUyMGNhcnRvb24lMjBjb21lZHkuJTIwaXQlMjByYW4lMjBhdCUyMHRoZSUyMHNhbWUlMjAlNUJNQVNLJTVEJTIwYXMlMjBzb21lJTIwb3RoZXIlMjAlNUJNQVNLJTVEJTIwYWJvdXQlMjBzY2hvb2wlMjBsaWZlJTJDJTIwJTVCTUFTSyU1RCUyMGFzJTIwJTIyJTIwdGVhY2hlcnMlMjAlMjIuJTIwJTVCTUFTSyU1RCUyMCU1Qk1BU0slNUQlMjAlNUJNQVNLJTVEJTIwaW4lMjB0aGUlMjB0ZWFjaGluZyUyMCU1Qk1BU0slNUQlMjBsZWFkJTIwJTVCTUFTSyU1RCUyMHRvJTIwYmVsaWV2ZSUyMHRoYXQlMjBicm9td2VsbCUyMGhpZ2glNUMnJTVCTUFTSyU1RCUyMHNhdGlyZSUyMGlzJTIwbXVjaCUyMGNsb3NlciUyMHRvJTIwcmVhbGl0eSUyMHRoYW4lMjBpcyUyMCUyMiUyMHRlYWNoZXJzJTIwJTIyLiUyMHRoZSUyMHNjcmFtYmxlJTIwJTVCTUFTSyU1RCUyMCU1Qk1BU0slNUQlMjBmaW5hbmNpYWxseSUyQyUyMHRoZSUyMCU1Qk1BU0slNURmdWwlMjBzdHVkZW50cyUyMHdob2duJTIwJTVCTUFTSyU1RCUyMHJpZ2h0JTIwdGhyb3VnaCUyMCU1Qk1BU0slNUQlMjBwYXRoZXRpYyUyMHRlYWNoZXJzJTVDJ3BvbXAlMkMlMjB0aGUlMjBwZXR0aW5lc3MlMjBvZiUyMHRoZSUyMHdob2xlJTIwc2l0dWF0aW9uJTJDJTIwZGlzdGluY3Rpb24lMjByZW1pbmQlMjBtZSUyMG9mJTIwdGhlJTIwc2Nob29scyUyMGklMjBrbmV3JTIwYW5kJTIwdGhlaXIlMjBzdHVkZW50cy4lMjB3aGVuJTIwaSUyMHNhdyUyMCU1Qk1BU0slNUQlMjBlcGlzb2RlJTIwaW4lMjAlNUJNQVNLJTVEJTIwYSUyMHN0dWRlbnQlMjByZXBlYXRlZGx5JTIwdHJpZWQlMjB0byUyMGJ1cm4lMjBkb3duJTIwdGhlJTIwc2Nob29sJTJDJTIwJTVCTUFTSyU1RCUyMGltbWVkaWF0ZWx5JTIwcmVjYWxsZWQuJTIwJTVCTUFTSyU1RC4uLiclMEElMEEnJTNFJTNFJTNFJTIwLi4uLiUyMGF0Li4lMjAlNUJNQVNLJTVELi4uJTIwJTVCTUFTSyU1RC4uLiUyMGhpZ2guJTIwYSUyMGNsYXNzaWMlMjBsaW5lJTIwcGx1Y2tlZCUyMGluc3BlY3RvciUyMCUzQSUyMGklNUMnJTVCTUFTSyU1RCUyMGhlcmUlMjB0byUyMCU1Qk1BU0slNUQlMjBvbmUlMjBvZiUyMHlvdXIlMjAlNUJNQVNLJTVELiUyMHN0dWRlbnQlMjAlM0ElMjB3ZWxjb21lJTIwdG8lMjBicm9td2VsbCUyMCU1Qk1BU0slNUQuJTIwaSUyMGV4cGVjdCUyMHRoYXQlMjBtYW55JTIwYWR1bHRzJTIwb2YlMjBteSUyMGFnZSUyMHRoaW5rJTIwdGhhdCUyMCU1Qk1BU0slNURtd2VsbCUyMCU1Qk1BU0slNUQlMjBpcyUyMCU1Qk1BU0slNUQlMjBmZXRjaGVkLiUyMHdoYXQlMjBhJTIwcGl0eSUyMHRoYXQlMjBpdCUyMGlzbiU1Qyd0ISUyMCU1QlNFUCU1RCUyMCU1QkNMUyU1RCUyMCU1Qk1BU0slNURuZXNzJTIwKCUyMG9yJTIwJTVCTUFTSyU1RGxlc3NuZXNzJTIwYXMlMjBnZW9yZ2UlMjAlRTUlQUUlODdpbiUyMHN0YXRlZCUyMCklRTUlODUlQUMlMjBiZWVuJTIwYW4lMjBpc3N1ZSUyMGZvciUyMHllYXJzJTIwYnV0JTIwbmV2ZXIlMjAlNUJNQVNLJTVEJTIwcGxhbiUyMHRvJTIwaGVscCUyMHRob3NlJTIwb24lMjB0aGUlMjBzdHJlZXQlMjB0aGF0JTIwd2VyZSUyMG9uY2UlMjBjb25zaWRlcmVkJTIwaHVtYW4lMjAlNUJNQVNLJTVEJTIwZGlkJTIwZXZlcnl0aGluZyUyMGZyb20lMjBnb2luZyUyMHRvJTIwc2Nob29sJTJDJTIwJTVCTUFTSyU1RCUyQyUyMCU1Qk1BU0slNUQlMjB2b3RlJTIwZm9yJTIwdGhlJTIwbWF0dGVyLiUyMG1vc3QlMjBwZW9wbGUlMjB0aGluayUyMCU1Qk1BU0slNUQlMjB0aGUlMjBob21lbGVzcyc=",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; [CLS] bromwell [MASK] is a cartoon comedy. it ran at the same [MASK] as some other [MASK] about school life, [MASK] as &quot; teachers &quot;. [MASK] [MASK] [MASK] in the teaching [MASK] lead [MASK] to believe that bromwell high\\&#x27;[MASK] satire is much closer to reality than is &quot; teachers &quot;. the scramble [MASK] [MASK] financially, the [MASK]ful students whogn [MASK] right through [MASK] pathetic teachers\\&#x27;pomp, the pettiness of the whole situation, distinction remind me of the schools i knew and their students. when i saw [MASK] episode in [MASK] a student repeatedly tried to burn down the school, [MASK] immediately recalled. [MASK]...&#x27;</span>

<span class="hljs-string">&#x27;&gt;&gt;&gt; .... at.. [MASK]... [MASK]... high. a classic line plucked inspector : i\\&#x27;[MASK] here to [MASK] one of your [MASK]. student : welcome to bromwell [MASK]. i expect that many adults of my age think that [MASK]mwell [MASK] is [MASK] fetched. what a pity that it isn\\&#x27;t! [SEP] [CLS] [MASK]ness ( or [MASK]lessness as george 宇in stated )公 been an issue for years but never [MASK] plan to help those on the street that were once considered human [MASK] did everything from going to school, [MASK], [MASK] vote for the matter. most people think [MASK] the homeless&#x27;</span>`,wrap:!1}}),xl=new El({props:{$$slots:{default:[fM]},$$scope:{ctx:C}}});let tl=C[0]==="pt"&&tM();const Qa=[IM,CM],Rn=[];function $a(l,t){return l[0]==="pt"?0:1}rl=$a(C),Ul=Rn[rl]=Qa[rl](C),ln=new g({props:{code:"c2FtcGxlcyUyMCUzRCUyMCU1QmxtX2RhdGFzZXRzJTVCJTIydHJhaW4lMjIlNUQlNUJpJTVEJTIwZm9yJTIwaSUyMGluJTIwcmFuZ2UoMiklNUQlMEFiYXRjaCUyMCUzRCUyMHdob2xlX3dvcmRfbWFza2luZ19kYXRhX2NvbGxhdG9yKHNhbXBsZXMpJTBBJTBBZm9yJTIwY2h1bmslMjBpbiUyMGJhdGNoJTVCJTIyaW5wdXRfaWRzJTIyJTVEJTNBJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiU1Q24nJTNFJTNFJTNFJTIwJTdCdG9rZW5pemVyLmRlY29kZShjaHVuayklN0QnJTIyKQ==",highlighted:`samples = [lm_datasets[<span class="hljs-string">&quot;train&quot;</span>][i] <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-number">2</span>)]
batch = whole_word_masking_data_collator(samples)

<span class="hljs-keyword">for</span> chunk <span class="hljs-keyword">in</span> batch[<span class="hljs-string">&quot;input_ids&quot;</span>]:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;\\n&#x27;&gt;&gt;&gt; <span class="hljs-subst">{tokenizer.decode(chunk)}</span>&#x27;&quot;</span>)`,wrap:!1}}),tn=new g({props:{code:"JyUzRSUzRSUzRSUyMCU1QkNMUyU1RCUyMGJyb213ZWxsJTIwaGlnaCUyMGlzJTIwYSUyMGNhcnRvb24lMjBjb21lZHklMjAlNUJNQVNLJTVEJTIwaXQlMjByYW4lMjBhdCUyMHRoZSUyMHNhbWUlMjB0aW1lJTIwYXMlMjBzb21lJTIwb3RoZXIlMjBwcm9ncmFtcyUyMGFib3V0JTIwc2Nob29sJTIwbGlmZSUyQyUyMHN1Y2glMjBhcyUyMCUyMiUyMHRlYWNoZXJzJTIwJTIyLiUyMG15JTIwMzUlMjB5ZWFycyUyMGluJTIwdGhlJTIwdGVhY2hpbmclMjBwcm9mZXNzaW9uJTIwbGVhZCUyMG1lJTIwdG8lMjBiZWxpZXZlJTIwdGhhdCUyMGJyb213ZWxsJTIwaGlnaCU1QydzJTIwc2F0aXJlJTIwaXMlMjBtdWNoJTIwY2xvc2VyJTIwdG8lMjByZWFsaXR5JTIwdGhhbiUyMGlzJTIwJTIyJTIwdGVhY2hlcnMlMjAlMjIuJTIwdGhlJTIwc2NyYW1ibGUlMjB0byUyMHN1cnZpdmUlMjBmaW5hbmNpYWxseSUyQyUyMHRoZSUyMGluc2lnaHRmdWwlMjBzdHVkZW50cyUyMHdobyUyMGNhbiUyMHNlZSUyMHJpZ2h0JTIwdGhyb3VnaCUyMHRoZWlyJTIwcGF0aGV0aWMlMjB0ZWFjaGVycyU1Qydwb21wJTJDJTIwdGhlJTIwcGV0dGluZXNzJTIwb2YlMjB0aGUlMjB3aG9sZSUyMHNpdHVhdGlvbiUyQyUyMGFsbCUyMHJlbWluZCUyMG1lJTIwb2YlMjB0aGUlMjBzY2hvb2xzJTIwaSUyMGtuZXclMjBhbmQlMjB0aGVpciUyMHN0dWRlbnRzLiUyMHdoZW4lMjBpJTIwc2F3JTIwdGhlJTIwZXBpc29kZSUyMGluJTIwd2hpY2glMjBhJTIwc3R1ZGVudCUyMHJlcGVhdGVkbHklMjB0cmllZCUyMHRvJTIwYnVybiUyMGRvd24lMjB0aGUlMjBzY2hvb2wlMkMlMjBpJTIwaW1tZWRpYXRlbHklMjByZWNhbGxlZC4uLi4uJyUwQSUwQSclM0UlM0UlM0UlMjAuLi4uJTIwJTVCTUFTSyU1RCUyMCU1Qk1BU0slNUQlMjAlNUJNQVNLJTVEJTIwJTVCTUFTSyU1RC4uLi4uLi4lMjBoaWdoLiUyMGElMjBjbGFzc2ljJTIwbGluZSUyMCUzQSUyMGluc3BlY3RvciUyMCUzQSUyMGklNUMnbSUyMGhlcmUlMjB0byUyMHNhY2slMjBvbmUlMjBvZiUyMHlvdXIlMjB0ZWFjaGVycy4lMjBzdHVkZW50JTIwJTNBJTIwd2VsY29tZSUyMHRvJTIwYnJvbXdlbGwlMjBoaWdoLiUyMGklMjBleHBlY3QlMjB0aGF0JTIwbWFueSUyMGFkdWx0cyUyMG9mJTIwbXklMjBhZ2UlMjB0aGluayUyMHRoYXQlMjBicm9td2VsbCUyMGhpZ2glMjBpcyUyMGZhciUyMGZldGNoZWQuJTIwd2hhdCUyMGElMjBwaXR5JTIwdGhhdCUyMGl0JTIwaXNuJTVDJ3QhJTIwJTVCU0VQJTVEJTIwJTVCQ0xTJTVEJTIwaG9tZWxlc3NuZXNzJTIwKCUyMG9yJTIwaG91c2VsZXNzbmVzcyUyMGFzJTIwZ2VvcmdlJTIwY2FybGluJTIwc3RhdGVkJTIwKSUyMGhhcyUyMGJlZW4lMjBhbiUyMGlzc3VlJTIwZm9yJTIweWVhcnMlMjBidXQlMjBuZXZlciUyMGElMjBwbGFuJTIwdG8lMjBoZWxwJTIwdGhvc2UlMjBvbiUyMHRoZSUyMHN0cmVldCUyMHRoYXQlMjB3ZXJlJTIwb25jZSUyMGNvbnNpZGVyZWQlMjBodW1hbiUyMHdobyUyMGRpZCUyMGV2ZXJ5dGhpbmclMjBmcm9tJTIwZ29pbmclMjB0byUyMHNjaG9vbCUyQyUyMHdvcmslMkMlMjBvciUyMHZvdGUlMjBmb3IlMjB0aGUlMjBtYXR0ZXIuJTIwbW9zdCUyMHBlb3BsZSUyMHRoaW5rJTIwb2YlMjB0aGUlMjBob21lbGVzcyc=",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; [CLS] bromwell high is a cartoon comedy [MASK] it ran at the same time as some other programs about school life, such as &quot; teachers &quot;. my 35 years in the teaching profession lead me to believe that bromwell high\\&#x27;s satire is much closer to reality than is &quot; teachers &quot;. the scramble to survive financially, the insightful students who can see right through their pathetic teachers\\&#x27;pomp, the pettiness of the whole situation, all remind me of the schools i knew and their students. when i saw the episode in which a student repeatedly tried to burn down the school, i immediately recalled.....&#x27;</span>

<span class="hljs-string">&#x27;&gt;&gt;&gt; .... [MASK] [MASK] [MASK] [MASK]....... high. a classic line : inspector : i\\&#x27;m here to sack one of your teachers. student : welcome to bromwell high. i expect that many adults of my age think that bromwell high is far fetched. what a pity that it isn\\&#x27;t! [SEP] [CLS] homelessness ( or houselessness as george carlin stated ) has been an issue for years but never a plan to help those on the street that were once considered human who did everything from going to school, work, or vote for the matter. most people think of the homeless&#x27;</span>`,wrap:!1}}),Nl=new El({props:{$$slots:{default:[_M]},$$scope:{ctx:C}}}),sn=new g({props:{code:"dHJhaW5fc2l6ZSUyMCUzRCUyMDEwXzAwMCUwQXRlc3Rfc2l6ZSUyMCUzRCUyMGludCgwLjElMjAqJTIwdHJhaW5fc2l6ZSklMEElMEFkb3duc2FtcGxlZF9kYXRhc2V0JTIwJTNEJTIwbG1fZGF0YXNldHMlNUIlMjJ0cmFpbiUyMiU1RC50cmFpbl90ZXN0X3NwbGl0KCUwQSUyMCUyMCUyMCUyMHRyYWluX3NpemUlM0R0cmFpbl9zaXplJTJDJTIwdGVzdF9zaXplJTNEdGVzdF9zaXplJTJDJTIwc2VlZCUzRDQyJTBBKSUwQWRvd25zYW1wbGVkX2RhdGFzZXQ=",highlighted:`train_size = <span class="hljs-number">10_000</span>
test_size = <span class="hljs-built_in">int</span>(<span class="hljs-number">0.1</span> * train_size)

downsampled_dataset = lm_datasets[<span class="hljs-string">&quot;train&quot;</span>].train_test_split(
    train_size=train_size, test_size=test_size, seed=<span class="hljs-number">42</span>
)
downsampled_dataset`,wrap:!1}}),en=new g({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpbnB1dF9pZHMnJTJDJTIwJ2xhYmVscyclMkMlMjAnd29yZF9pZHMnJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbnVtX3Jvd3MlM0ElMjAxMDAwMCUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB0ZXN0JTNBJTIwRGF0YXNldCglN0IlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlcyUzQSUyMCU1QidhdHRlbnRpb25fbWFzayclMkMlMjAnaW5wdXRfaWRzJyUyQyUyMCdsYWJlbHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMTAwMCUwQSUyMCUyMCUyMCUyMCU3RCklMEElN0Qp",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">10000</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">1000</span>
    })
})`,wrap:!1}}),Mn=new g({props:{code:"ZnJvbSUyMGh1Z2dpbmdmYWNlX2h1YiUyMGltcG9ydCUyMG5vdGVib29rX2xvZ2luJTBBJTBBbm90ZWJvb2tfbG9naW4oKQ==",highlighted:`<span class="hljs-keyword">from</span> huggingface_hub <span class="hljs-keyword">import</span> notebook_login

notebook_login()`,wrap:!1}}),cn=new g({props:{code:"aHVnZ2luZ2ZhY2UtY2xpJTIwbG9naW4=",highlighted:'huggingface-<span class="hljs-keyword">cli</span> login',wrap:!1}});const Wa=[GM,kM],vn=[];function za(l,t){return l[0]==="tf"?0:1}ol=za(C),ml=vn[ol]=Wa[ol](C),yn=new Fl({props:{title:"Perplexity cho mô hình ngôn ngữ",local:"perplexity-cho-mô-hình-ngôn-ngữ",headingTag:"h3"}}),rn=new Xe({props:{id:"NURcDHhYe98"}});const xa=[ZM,BM],Vn=[];function Na(l,t){return l[0]==="pt"?0:1}Jl=Na(C),ul=Vn[Jl]=xa[Jl](C),on=new g({props:{code:"UGVycGxleGl0eSUzQSUyMDIxLjc1",highlighted:'<span class="hljs-meta">&gt;&gt;&gt; </span>Perplexity: <span class="hljs-number">21.75</span>',wrap:!1}});const Sa=[vM,RM],Xn=[];function Aa(l,t){return l[0]==="pt"?0:1}Tl=Aa(C),dl=Xn[Tl]=Sa[Tl](C);const Ea=[XM,VM],Qn=[];function Fa(l,t){return l[0]==="pt"?0:1}wl=Fa(C),bl=Qn[wl]=Ea[wl](C),un=new g({props:{code:"UGVycGxleGl0eSUzQSUyMDExLjMy",highlighted:'<span class="hljs-meta">&gt;&gt;&gt; </span>Perplexity: <span class="hljs-number">11.32</span>',wrap:!1}});let x=C[0]==="pt"&&nM();Sl=new El({props:{$$slots:{default:[QM]},$$scope:{ctx:C}}});let N=C[0]==="pt"&&sM();return dn=new Fl({props:{title:"Sử dụng mô hình tinh chỉnh của mình",local:"sử-dụng-mô-hình-tinh-chỉnh-của-mình",headingTag:"h2"}}),bn=new g({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBbWFza19maWxsZXIlMjAlM0QlMjBwaXBlbGluZSglMEElMjAlMjAlMjAlMjAlMjJmaWxsLW1hc2slMjIlMkMlMjBtb2RlbCUzRCUyMmh1Z2dpbmdmYWNlLWNvdXJzZSUyRmRpc3RpbGJlcnQtYmFzZS11bmNhc2VkLWZpbmV0dW5lZC1pbWRiJTIyJTBBKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

mask_filler = pipeline(
    <span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;huggingface-course/distilbert-base-uncased-finetuned-imdb&quot;</span>
)`,wrap:!1}}),jn=new g({props:{code:"cHJlZHMlMjAlM0QlMjBtYXNrX2ZpbGxlcih0ZXh0KSUwQSUwQWZvciUyMHByZWQlMjBpbiUyMHByZWRzJTNBJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiUzRSUzRSUzRSUyMCU3QnByZWQlNUInc2VxdWVuY2UnJTVEJTdEJTIyKQ==",highlighted:`preds = mask_filler(text)

<span class="hljs-keyword">for</span> pred <span class="hljs-keyword">in</span> preds:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; <span class="hljs-subst">{pred[<span class="hljs-string">&#x27;sequence&#x27;</span>]}</span>&quot;</span>)`,wrap:!1}}),fn=new g({props:{code:"JyUzRSUzRSUzRSUyMHRoaXMlMjBpcyUyMGElMjBncmVhdCUyMG1vdmllLiclMEEnJTNFJTNFJTNFJTIwdGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwZmlsbS4nJTBBJyUzRSUzRSUzRSUyMHRoaXMlMjBpcyUyMGElMjBncmVhdCUyMHN0b3J5LiclMEEnJTNFJTNFJTNFJTIwdGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwbW92aWVzLiclMEEnJTNFJTNFJTNFJTIwdGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwY2hhcmFjdGVyLic=",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great movie.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great film.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great story.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great movies.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great character.&#x27;</span>`,wrap:!1}}),In=new Xe({props:{id:"0Oxphw4Q9fo"}}),Al=new El({props:{$$slots:{default:[$M]},$$scope:{ctx:C}}}),kn=new UM({props:{source:"https://github.com/huggingface/course/blob/main/chapters/vi/chapter7/3.mdx"}}),{c(){e=u("meta"),r=M(),a=u("p"),y=M(),U(_.$$.fragment),b=M(),U(Z.$$.fragment),V=M(),v.c(),R=M(),B=u("p"),B.textContent=w,k=M(),$=u("p"),$.textContent=S,I=M(),X=u("p"),X.innerHTML=Y,G=M(),Q=u("div"),Q.innerHTML=jl,kl=M(),H=u("p"),H.innerHTML=Fn,Gl=M(),W=u("iframe"),sl=M(),fl=u("p"),fl.textContent=Ll,el=M(),U(al.$$.fragment),Ml=M(),U(pl.$$.fragment),Bl=M(),U(L.$$.fragment),Zl=M(),q=u("p"),q.innerHTML=Yn,Rl=M(),A=u("div"),A.innerHTML=ql,hl=M(),Cl=u("p"),Cl.innerHTML=Dl,il=M(),z.c(),yl=M(),D=u("p"),D.textContent=Hn,vl=M(),U(K.$$.fragment),Vl=M(),P=u("p"),P.innerHTML=Ln,Xl=M(),U(O.$$.fragment),Ql=M(),ll=u("p"),ll.textContent=Kl,cl=M(),F.c(),i=M(),U(f.$$.fragment),Dn=M(),Pl=u("p"),Pl.textContent=Fe,Kn=M(),U(Ol.$$.fragment),Pn=M(),lt=u("p"),lt.innerHTML=Ye,On=M(),U(tt.$$.fragment),ls=M(),U(nt.$$.fragment),ts=M(),st=u("p"),st.innerHTML=He,ns=M(),U(et.$$.fragment),ss=M(),U(at.$$.fragment),es=M(),Mt=u("p"),Mt.innerHTML=Le,as=M(),U($l.$$.fragment),Ms=M(),ht=u("p"),ht.innerHTML=qe,hs=M(),U(it.$$.fragment),is=M(),U(ct.$$.fragment),cs=M(),pt=u("p"),pt.textContent=De,ps=M(),yt=u("p"),yt.innerHTML=Ke,ys=M(),U(rt.$$.fragment),rs=M(),U(Ut.$$.fragment),Us=M(),ot=u("p"),ot.innerHTML=Pe,os=M(),mt=u("p"),mt.innerHTML=Oe,ms=M(),U(Jt.$$.fragment),Js=M(),U(ut.$$.fragment),us=M(),Tt=u("p"),Tt.innerHTML=la,Ts=M(),U(Wl.$$.fragment),ds=M(),dt=u("p"),dt.textContent=ta,ws=M(),U(wt.$$.fragment),bs=M(),U(zl.$$.fragment),gs=M(),bt=u("p"),bt.textContent=na,js=M(),U(gt.$$.fragment),fs=M(),U(jt.$$.fragment),Cs=M(),ft=u("p"),ft.textContent=sa,Is=M(),U(Ct.$$.fragment),_s=M(),U(It.$$.fragment),ks=M(),_t=u("p"),_t.innerHTML=ea,Gs=M(),U(kt.$$.fragment),Bs=M(),U(Gt.$$.fragment),Zs=M(),Bt=u("p"),Bt.textContent=aa,Rs=M(),Zt=u("ul"),Zt.innerHTML=Ma,vs=M(),Rt=u("p"),Rt.textContent=ha,Vs=M(),U(vt.$$.fragment),Xs=M(),Vt=u("p"),Vt.innerHTML=ia,Qs=M(),Xt=u("p"),Xt.innerHTML=ca,$s=M(),U(Qt.$$.fragment),Ws=M(),U($t.$$.fragment),zs=M(),Wt=u("p"),Wt.innerHTML=pa,xs=M(),U(zt.$$.fragment),Ns=M(),U(xt.$$.fragment),Ss=M(),Nt=u("p"),Nt.textContent=ya,As=M(),U(St.$$.fragment),Es=M(),U(At.$$.fragment),Fs=M(),Et=u("p"),Et.innerHTML=ra,Ys=M(),U(Ft.$$.fragment),Hs=M(),Yt=u("p"),Yt.innerHTML=Ua,Ls=M(),U(Ht.$$.fragment),qs=M(),Lt=u("p"),Lt.innerHTML=oa,Ds=M(),U(qt.$$.fragment),Ks=M(),U(Dt.$$.fragment),Ps=M(),Kt=u("p"),Kt.innerHTML=ma,Os=M(),U(xl.$$.fragment),le=M(),tl&&tl.c(),$n=M(),Pt=u("p"),Pt.innerHTML=Ja,te=M(),Ul.c(),Wn=M(),Ot=u("p"),Ot.textContent=ua,ne=M(),U(ln.$$.fragment),se=M(),U(tn.$$.fragment),ee=M(),U(Nl.$$.fragment),ae=M(),nn=u("p"),nn.innerHTML=Ta,Me=M(),U(sn.$$.fragment),he=M(),U(en.$$.fragment),ie=M(),an=u("p"),an.innerHTML=da,ce=M(),U(Mn.$$.fragment),pe=M(),hn=u("p"),hn.textContent=wa,ye=M(),U(cn.$$.fragment),re=M(),pn=u("p"),pn.textContent=ba,Ue=M(),ml.c(),zn=M(),U(yn.$$.fragment),oe=M(),U(rn.$$.fragment),me=M(),Un=u("p"),Un.textContent=ga,Je=M(),ul.c(),xn=M(),U(on.$$.fragment),ue=M(),mn=u("p"),mn.textContent=ja,Te=M(),dl.c(),Nn=M(),Jn=u("p"),Jn.textContent=fa,de=M(),bl.c(),Sn=M(),U(un.$$.fragment),we=M(),Tn=u("p"),Tn.textContent=Ca,be=M(),x&&x.c(),An=M(),U(Sl.$$.fragment),ge=M(),N&&N.c(),En=M(),U(dn.$$.fragment),je=M(),wn=u("p"),wn.innerHTML=Ia,fe=M(),U(bn.$$.fragment),Ce=M(),gn=u("p"),gn.textContent=_a,Ie=M(),U(jn.$$.fragment),_e=M(),U(fn.$$.fragment),ke=M(),Cn=u("p"),Cn.textContent=ka,Ge=M(),U(In.$$.fragment),Be=M(),_n=u("p"),_n.innerHTML=Ga,Ze=M(),U(Al.$$.fragment),Re=M(),U(kn.$$.fragment),ve=M(),qn=u("p"),this.h()},l(l){const t=pM("svelte-u9bgzb",document.head);e=T(t,"META",{name:!0,content:!0}),t.forEach(n),r=h(l),a=T(l,"P",{}),Ee(a).forEach(n),y=h(l),o(_.$$.fragment,l),b=h(l),o(Z.$$.fragment,l),V=h(l),v.l(l),R=h(l),B=T(l,"P",{"data-svelte-h":!0}),d(B)!=="svelte-vzfbts"&&(B.textContent=w),k=h(l),$=T(l,"P",{"data-svelte-h":!0}),d($)!=="svelte-1l8m7gj"&&($.textContent=S),I=h(l),X=T(l,"P",{"data-svelte-h":!0}),d(X)!=="svelte-1kp3ux3"&&(X.innerHTML=Y),G=h(l),Q=T(l,"DIV",{class:!0,"data-svelte-h":!0}),d(Q)!=="svelte-1lvgpuv"&&(Q.innerHTML=jl),kl=h(l),H=T(l,"P",{"data-svelte-h":!0}),d(H)!=="svelte-1sia0ek"&&(H.innerHTML=Fn),Gl=h(l),W=T(l,"IFRAME",{src:!0,frameborder:!0,height:!0,title:!0,class:!0,allow:!0,sandbox:!0}),Ee(W).forEach(n),sl=h(l),fl=T(l,"P",{"data-svelte-h":!0}),d(fl)!=="svelte-14w0xua"&&(fl.textContent=Ll),el=h(l),o(al.$$.fragment,l),Ml=h(l),o(pl.$$.fragment,l),Bl=h(l),o(L.$$.fragment,l),Zl=h(l),q=T(l,"P",{"data-svelte-h":!0}),d(q)!=="svelte-lmij5m"&&(q.innerHTML=Yn),Rl=h(l),A=T(l,"DIV",{class:!0,"data-svelte-h":!0}),d(A)!=="svelte-zc90xi"&&(A.innerHTML=ql),hl=h(l),Cl=T(l,"P",{"data-svelte-h":!0}),d(Cl)!=="svelte-15a3ngq"&&(Cl.innerHTML=Dl),il=h(l),z.l(l),yl=h(l),D=T(l,"P",{"data-svelte-h":!0}),d(D)!=="svelte-18ztoqp"&&(D.textContent=Hn),vl=h(l),o(K.$$.fragment,l),Vl=h(l),P=T(l,"P",{"data-svelte-h":!0}),d(P)!=="svelte-14u5phe"&&(P.innerHTML=Ln),Xl=h(l),o(O.$$.fragment,l),Ql=h(l),ll=T(l,"P",{"data-svelte-h":!0}),d(ll)!=="svelte-gkgntx"&&(ll.textContent=Kl),cl=h(l),F.l(l),i=h(l),o(f.$$.fragment,l),Dn=h(l),Pl=T(l,"P",{"data-svelte-h":!0}),d(Pl)!=="svelte-7c2v1g"&&(Pl.textContent=Fe),Kn=h(l),o(Ol.$$.fragment,l),Pn=h(l),lt=T(l,"P",{"data-svelte-h":!0}),d(lt)!=="svelte-hxxyqv"&&(lt.innerHTML=Ye),On=h(l),o(tt.$$.fragment,l),ls=h(l),o(nt.$$.fragment,l),ts=h(l),st=T(l,"P",{"data-svelte-h":!0}),d(st)!=="svelte-13jpjzr"&&(st.innerHTML=He),ns=h(l),o(et.$$.fragment,l),ss=h(l),o(at.$$.fragment,l),es=h(l),Mt=T(l,"P",{"data-svelte-h":!0}),d(Mt)!=="svelte-1o2d33"&&(Mt.innerHTML=Le),as=h(l),o($l.$$.fragment,l),Ms=h(l),ht=T(l,"P",{"data-svelte-h":!0}),d(ht)!=="svelte-88v0sx"&&(ht.innerHTML=qe),hs=h(l),o(it.$$.fragment,l),is=h(l),o(ct.$$.fragment,l),cs=h(l),pt=T(l,"P",{"data-svelte-h":!0}),d(pt)!=="svelte-1wtlyvf"&&(pt.textContent=De),ps=h(l),yt=T(l,"P",{"data-svelte-h":!0}),d(yt)!=="svelte-1e38op3"&&(yt.innerHTML=Ke),ys=h(l),o(rt.$$.fragment,l),rs=h(l),o(Ut.$$.fragment,l),Us=h(l),ot=T(l,"P",{"data-svelte-h":!0}),d(ot)!=="svelte-sywaef"&&(ot.innerHTML=Pe),os=h(l),mt=T(l,"P",{"data-svelte-h":!0}),d(mt)!=="svelte-vyti1g"&&(mt.innerHTML=Oe),ms=h(l),o(Jt.$$.fragment,l),Js=h(l),o(ut.$$.fragment,l),us=h(l),Tt=T(l,"P",{"data-svelte-h":!0}),d(Tt)!=="svelte-urpp2g"&&(Tt.innerHTML=la),Ts=h(l),o(Wl.$$.fragment,l),ds=h(l),dt=T(l,"P",{"data-svelte-h":!0}),d(dt)!=="svelte-romtkg"&&(dt.textContent=ta),ws=h(l),o(wt.$$.fragment,l),bs=h(l),o(zl.$$.fragment,l),gs=h(l),bt=T(l,"P",{"data-svelte-h":!0}),d(bt)!=="svelte-14k1pjj"&&(bt.textContent=na),js=h(l),o(gt.$$.fragment,l),fs=h(l),o(jt.$$.fragment,l),Cs=h(l),ft=T(l,"P",{"data-svelte-h":!0}),d(ft)!=="svelte-mssxs4"&&(ft.textContent=sa),Is=h(l),o(Ct.$$.fragment,l),_s=h(l),o(It.$$.fragment,l),ks=h(l),_t=T(l,"P",{"data-svelte-h":!0}),d(_t)!=="svelte-1uj7p8g"&&(_t.innerHTML=ea),Gs=h(l),o(kt.$$.fragment,l),Bs=h(l),o(Gt.$$.fragment,l),Zs=h(l),Bt=T(l,"P",{"data-svelte-h":!0}),d(Bt)!=="svelte-18gj3sn"&&(Bt.textContent=aa),Rs=h(l),Zt=T(l,"UL",{"data-svelte-h":!0}),d(Zt)!=="svelte-j5u8en"&&(Zt.innerHTML=Ma),vs=h(l),Rt=T(l,"P",{"data-svelte-h":!0}),d(Rt)!=="svelte-1qjlugj"&&(Rt.textContent=ha),Vs=h(l),o(vt.$$.fragment,l),Xs=h(l),Vt=T(l,"P",{"data-svelte-h":!0}),d(Vt)!=="svelte-ny0iip"&&(Vt.innerHTML=ia),Qs=h(l),Xt=T(l,"P",{"data-svelte-h":!0}),d(Xt)!=="svelte-18chja6"&&(Xt.innerHTML=ca),$s=h(l),o(Qt.$$.fragment,l),Ws=h(l),o($t.$$.fragment,l),zs=h(l),Wt=T(l,"P",{"data-svelte-h":!0}),d(Wt)!=="svelte-ayseld"&&(Wt.innerHTML=pa),xs=h(l),o(zt.$$.fragment,l),Ns=h(l),o(xt.$$.fragment,l),Ss=h(l),Nt=T(l,"P",{"data-svelte-h":!0}),d(Nt)!=="svelte-1oagubn"&&(Nt.textContent=ya),As=h(l),o(St.$$.fragment,l),Es=h(l),o(At.$$.fragment,l),Fs=h(l),Et=T(l,"P",{"data-svelte-h":!0}),d(Et)!=="svelte-sjikln"&&(Et.innerHTML=ra),Ys=h(l),o(Ft.$$.fragment,l),Hs=h(l),Yt=T(l,"P",{"data-svelte-h":!0}),d(Yt)!=="svelte-1rgwuz9"&&(Yt.innerHTML=Ua),Ls=h(l),o(Ht.$$.fragment,l),qs=h(l),Lt=T(l,"P",{"data-svelte-h":!0}),d(Lt)!=="svelte-y0h3v"&&(Lt.innerHTML=oa),Ds=h(l),o(qt.$$.fragment,l),Ks=h(l),o(Dt.$$.fragment,l),Ps=h(l),Kt=T(l,"P",{"data-svelte-h":!0}),d(Kt)!=="svelte-cv2hzu"&&(Kt.innerHTML=ma),Os=h(l),o(xl.$$.fragment,l),le=h(l),tl&&tl.l(l),$n=h(l),Pt=T(l,"P",{"data-svelte-h":!0}),d(Pt)!=="svelte-1bn70kx"&&(Pt.innerHTML=Ja),te=h(l),Ul.l(l),Wn=h(l),Ot=T(l,"P",{"data-svelte-h":!0}),d(Ot)!=="svelte-q64t3y"&&(Ot.textContent=ua),ne=h(l),o(ln.$$.fragment,l),se=h(l),o(tn.$$.fragment,l),ee=h(l),o(Nl.$$.fragment,l),ae=h(l),nn=T(l,"P",{"data-svelte-h":!0}),d(nn)!=="svelte-1n7ef69"&&(nn.innerHTML=Ta),Me=h(l),o(sn.$$.fragment,l),he=h(l),o(en.$$.fragment,l),ie=h(l),an=T(l,"P",{"data-svelte-h":!0}),d(an)!=="svelte-15cfyv6"&&(an.innerHTML=da),ce=h(l),o(Mn.$$.fragment,l),pe=h(l),hn=T(l,"P",{"data-svelte-h":!0}),d(hn)!=="svelte-nytj4m"&&(hn.textContent=wa),ye=h(l),o(cn.$$.fragment,l),re=h(l),pn=T(l,"P",{"data-svelte-h":!0}),d(pn)!=="svelte-1k8w6it"&&(pn.textContent=ba),Ue=h(l),ml.l(l),zn=h(l),o(yn.$$.fragment,l),oe=h(l),o(rn.$$.fragment,l),me=h(l),Un=T(l,"P",{"data-svelte-h":!0}),d(Un)!=="svelte-cm69bo"&&(Un.textContent=ga),Je=h(l),ul.l(l),xn=h(l),o(on.$$.fragment,l),ue=h(l),mn=T(l,"P",{"data-svelte-h":!0}),d(mn)!=="svelte-1nj5ur9"&&(mn.textContent=ja),Te=h(l),dl.l(l),Nn=h(l),Jn=T(l,"P",{"data-svelte-h":!0}),d(Jn)!=="svelte-1s93mth"&&(Jn.textContent=fa),de=h(l),bl.l(l),Sn=h(l),o(un.$$.fragment,l),we=h(l),Tn=T(l,"P",{"data-svelte-h":!0}),d(Tn)!=="svelte-xagzbx"&&(Tn.textContent=Ca),be=h(l),x&&x.l(l),An=h(l),o(Sl.$$.fragment,l),ge=h(l),N&&N.l(l),En=h(l),o(dn.$$.fragment,l),je=h(l),wn=T(l,"P",{"data-svelte-h":!0}),d(wn)!=="svelte-19ia27l"&&(wn.innerHTML=Ia),fe=h(l),o(bn.$$.fragment,l),Ce=h(l),gn=T(l,"P",{"data-svelte-h":!0}),d(gn)!=="svelte-1van6kd"&&(gn.textContent=_a),Ie=h(l),o(jn.$$.fragment,l),_e=h(l),o(fn.$$.fragment,l),ke=h(l),Cn=T(l,"P",{"data-svelte-h":!0}),d(Cn)!=="svelte-nu3i63"&&(Cn.textContent=ka),Ge=h(l),o(In.$$.fragment,l),Be=h(l),_n=T(l,"P",{"data-svelte-h":!0}),d(_n)!=="svelte-13pnqms"&&(_n.innerHTML=Ga),Ze=h(l),o(Al.$$.fragment,l),Re=h(l),o(kn.$$.fragment,l),ve=h(l),qn=T(l,"P",{}),Ee(qn).forEach(n),this.h()},h(){gl(e,"name","hf:doc:metadata"),gl(e,"content",zM),gl(Q,"class","flex justify-center"),MM(W.src,Hl="https://course-demos-distilbert-base-uncased-finetune-7400b54.hf.space")||gl(W,"src",Hl),gl(W,"frameborder","0"),gl(W,"height","300"),gl(W,"title","Gradio app"),gl(W,"class","block dark:hidden container p-0 flex-grow space-iframe"),gl(W,"allow","accelerometer; ambient-light-sensor; autoplay; battery; camera; document-domain; encrypted-media; fullscreen; geolocation; gyroscope; layout-animations; legacy-image-formats; magnetometer; microphone; midi; oversized-images; payment; picture-in-picture; publickey-credentials-get; sync-xhr; usb; vr ; wake-lock; xr-spatial-tracking"),gl(W,"sandbox","allow-forms allow-modals allow-popups allow-popups-to-escape-sandbox allow-same-origin allow-scripts allow-downloads"),gl(A,"class","flex justify-center")},m(l,t){yM(document.head,e),s(l,r,t),s(l,a,t),s(l,y,t),m(_,l,t),s(l,b,t),m(Z,l,t),s(l,V,t),Gn[j].m(l,t),s(l,R,t),s(l,B,t),s(l,k,t),s(l,$,t),s(l,I,t),s(l,X,t),s(l,G,t),s(l,Q,t),s(l,kl,t),s(l,H,t),s(l,Gl,t),s(l,W,t),s(l,sl,t),s(l,fl,t),s(l,el,t),m(al,l,t),s(l,Ml,t),m(pl,l,t),s(l,Bl,t),m(L,l,t),s(l,Zl,t),s(l,q,t),s(l,Rl,t),s(l,A,t),s(l,hl,t),s(l,Cl,t),s(l,il,t),Bn[E].m(l,t),s(l,yl,t),s(l,D,t),s(l,vl,t),m(K,l,t),s(l,Vl,t),s(l,P,t),s(l,Xl,t),m(O,l,t),s(l,Ql,t),s(l,ll,t),s(l,cl,t),Zn[nl].m(l,t),s(l,i,t),m(f,l,t),s(l,Dn,t),s(l,Pl,t),s(l,Kn,t),m(Ol,l,t),s(l,Pn,t),s(l,lt,t),s(l,On,t),m(tt,l,t),s(l,ls,t),m(nt,l,t),s(l,ts,t),s(l,st,t),s(l,ns,t),m(et,l,t),s(l,ss,t),m(at,l,t),s(l,es,t),s(l,Mt,t),s(l,as,t),m($l,l,t),s(l,Ms,t),s(l,ht,t),s(l,hs,t),m(it,l,t),s(l,is,t),m(ct,l,t),s(l,cs,t),s(l,pt,t),s(l,ps,t),s(l,yt,t),s(l,ys,t),m(rt,l,t),s(l,rs,t),m(Ut,l,t),s(l,Us,t),s(l,ot,t),s(l,os,t),s(l,mt,t),s(l,ms,t),m(Jt,l,t),s(l,Js,t),m(ut,l,t),s(l,us,t),s(l,Tt,t),s(l,Ts,t),m(Wl,l,t),s(l,ds,t),s(l,dt,t),s(l,ws,t),m(wt,l,t),s(l,bs,t),m(zl,l,t),s(l,gs,t),s(l,bt,t),s(l,js,t),m(gt,l,t),s(l,fs,t),m(jt,l,t),s(l,Cs,t),s(l,ft,t),s(l,Is,t),m(Ct,l,t),s(l,_s,t),m(It,l,t),s(l,ks,t),s(l,_t,t),s(l,Gs,t),m(kt,l,t),s(l,Bs,t),m(Gt,l,t),s(l,Zs,t),s(l,Bt,t),s(l,Rs,t),s(l,Zt,t),s(l,vs,t),s(l,Rt,t),s(l,Vs,t),m(vt,l,t),s(l,Xs,t),s(l,Vt,t),s(l,Qs,t),s(l,Xt,t),s(l,$s,t),m(Qt,l,t),s(l,Ws,t),m($t,l,t),s(l,zs,t),s(l,Wt,t),s(l,xs,t),m(zt,l,t),s(l,Ns,t),m(xt,l,t),s(l,Ss,t),s(l,Nt,t),s(l,As,t),m(St,l,t),s(l,Es,t),m(At,l,t),s(l,Fs,t),s(l,Et,t),s(l,Ys,t),m(Ft,l,t),s(l,Hs,t),s(l,Yt,t),s(l,Ls,t),m(Ht,l,t),s(l,qs,t),s(l,Lt,t),s(l,Ds,t),m(qt,l,t),s(l,Ks,t),m(Dt,l,t),s(l,Ps,t),s(l,Kt,t),s(l,Os,t),m(xl,l,t),s(l,le,t),tl&&tl.m(l,t),s(l,$n,t),s(l,Pt,t),s(l,te,t),Rn[rl].m(l,t),s(l,Wn,t),s(l,Ot,t),s(l,ne,t),m(ln,l,t),s(l,se,t),m(tn,l,t),s(l,ee,t),m(Nl,l,t),s(l,ae,t),s(l,nn,t),s(l,Me,t),m(sn,l,t),s(l,he,t),m(en,l,t),s(l,ie,t),s(l,an,t),s(l,ce,t),m(Mn,l,t),s(l,pe,t),s(l,hn,t),s(l,ye,t),m(cn,l,t),s(l,re,t),s(l,pn,t),s(l,Ue,t),vn[ol].m(l,t),s(l,zn,t),m(yn,l,t),s(l,oe,t),m(rn,l,t),s(l,me,t),s(l,Un,t),s(l,Je,t),Vn[Jl].m(l,t),s(l,xn,t),m(on,l,t),s(l,ue,t),s(l,mn,t),s(l,Te,t),Xn[Tl].m(l,t),s(l,Nn,t),s(l,Jn,t),s(l,de,t),Qn[wl].m(l,t),s(l,Sn,t),m(un,l,t),s(l,we,t),s(l,Tn,t),s(l,be,t),x&&x.m(l,t),s(l,An,t),m(Sl,l,t),s(l,ge,t),N&&N.m(l,t),s(l,En,t),m(dn,l,t),s(l,je,t),s(l,wn,t),s(l,fe,t),m(bn,l,t),s(l,Ce,t),s(l,gn,t),s(l,Ie,t),m(jn,l,t),s(l,_e,t),m(fn,l,t),s(l,ke,t),s(l,Cn,t),s(l,Ge,t),m(In,l,t),s(l,Be,t),s(l,_n,t),s(l,Ze,t),m(Al,l,t),s(l,Re,t),m(kn,l,t),s(l,ve,t),s(l,qn,t),Ve=!0},p(l,[t]){const Ya={};t&1&&(Ya.fw=l[0]),_.$set(Ya);let Qe=j;j=Za(l),j!==Qe&&(_l(),p(Gn[Qe],1,1,()=>{Gn[Qe]=null}),Il(),v=Gn[j],v||(v=Gn[j]=Ba[j](l),v.c()),c(v,1),v.m(R.parentNode,R));const Ha={};t&2&&(Ha.$$scope={dirty:t,ctx:l}),pl.$set(Ha);let $e=E;E=va(l),E!==$e&&(_l(),p(Bn[$e],1,1,()=>{Bn[$e]=null}),Il(),z=Bn[E],z||(z=Bn[E]=Ra[E](l),z.c()),c(z,1),z.m(yl.parentNode,yl));let We=nl;nl=Xa(l),nl!==We&&(_l(),p(Zn[We],1,1,()=>{Zn[We]=null}),Il(),F=Zn[nl],F||(F=Zn[nl]=Va[nl](l),F.c()),c(F,1),F.m(i.parentNode,i));const La={};t&2&&(La.$$scope={dirty:t,ctx:l}),$l.$set(La);const qa={};t&2&&(qa.$$scope={dirty:t,ctx:l}),Wl.$set(qa);const Da={};t&2&&(Da.$$scope={dirty:t,ctx:l}),zl.$set(Da);const Ka={};t&2&&(Ka.$$scope={dirty:t,ctx:l}),xl.$set(Ka),l[0]==="pt"?tl||(tl=tM(),tl.c(),tl.m($n.parentNode,$n)):tl&&(tl.d(1),tl=null);let ze=rl;rl=$a(l),rl!==ze&&(_l(),p(Rn[ze],1,1,()=>{Rn[ze]=null}),Il(),Ul=Rn[rl],Ul||(Ul=Rn[rl]=Qa[rl](l),Ul.c()),c(Ul,1),Ul.m(Wn.parentNode,Wn));const Pa={};t&2&&(Pa.$$scope={dirty:t,ctx:l}),Nl.$set(Pa);let xe=ol;ol=za(l),ol!==xe&&(_l(),p(vn[xe],1,1,()=>{vn[xe]=null}),Il(),ml=vn[ol],ml||(ml=vn[ol]=Wa[ol](l),ml.c()),c(ml,1),ml.m(zn.parentNode,zn));let Ne=Jl;Jl=Na(l),Jl!==Ne&&(_l(),p(Vn[Ne],1,1,()=>{Vn[Ne]=null}),Il(),ul=Vn[Jl],ul||(ul=Vn[Jl]=xa[Jl](l),ul.c()),c(ul,1),ul.m(xn.parentNode,xn));let Se=Tl;Tl=Aa(l),Tl!==Se&&(_l(),p(Xn[Se],1,1,()=>{Xn[Se]=null}),Il(),dl=Xn[Tl],dl||(dl=Xn[Tl]=Sa[Tl](l),dl.c()),c(dl,1),dl.m(Nn.parentNode,Nn));let Ae=wl;wl=Fa(l),wl!==Ae&&(_l(),p(Qn[Ae],1,1,()=>{Qn[Ae]=null}),Il(),bl=Qn[wl],bl||(bl=Qn[wl]=Ea[wl](l),bl.c()),c(bl,1),bl.m(Sn.parentNode,Sn)),l[0]==="pt"?x?t&1&&c(x,1):(x=nM(),x.c(),c(x,1),x.m(An.parentNode,An)):x&&(_l(),p(x,1,1,()=>{x=null}),Il());const Oa={};t&2&&(Oa.$$scope={dirty:t,ctx:l}),Sl.$set(Oa),l[0]==="pt"?N?t&1&&c(N,1):(N=sM(),N.c(),c(N,1),N.m(En.parentNode,En)):N&&(_l(),p(N,1,1,()=>{N=null}),Il());const lM={};t&2&&(lM.$$scope={dirty:t,ctx:l}),Al.$set(lM)},i(l){Ve||(c(_.$$.fragment,l),c(Z.$$.fragment,l),c(v),c(al.$$.fragment,l),c(pl.$$.fragment,l),c(L.$$.fragment,l),c(z),c(K.$$.fragment,l),c(O.$$.fragment,l),c(F),c(f.$$.fragment,l),c(Ol.$$.fragment,l),c(tt.$$.fragment,l),c(nt.$$.fragment,l),c(et.$$.fragment,l),c(at.$$.fragment,l),c($l.$$.fragment,l),c(it.$$.fragment,l),c(ct.$$.fragment,l),c(rt.$$.fragment,l),c(Ut.$$.fragment,l),c(Jt.$$.fragment,l),c(ut.$$.fragment,l),c(Wl.$$.fragment,l),c(wt.$$.fragment,l),c(zl.$$.fragment,l),c(gt.$$.fragment,l),c(jt.$$.fragment,l),c(Ct.$$.fragment,l),c(It.$$.fragment,l),c(kt.$$.fragment,l),c(Gt.$$.fragment,l),c(vt.$$.fragment,l),c(Qt.$$.fragment,l),c($t.$$.fragment,l),c(zt.$$.fragment,l),c(xt.$$.fragment,l),c(St.$$.fragment,l),c(At.$$.fragment,l),c(Ft.$$.fragment,l),c(Ht.$$.fragment,l),c(qt.$$.fragment,l),c(Dt.$$.fragment,l),c(xl.$$.fragment,l),c(Ul),c(ln.$$.fragment,l),c(tn.$$.fragment,l),c(Nl.$$.fragment,l),c(sn.$$.fragment,l),c(en.$$.fragment,l),c(Mn.$$.fragment,l),c(cn.$$.fragment,l),c(ml),c(yn.$$.fragment,l),c(rn.$$.fragment,l),c(ul),c(on.$$.fragment,l),c(dl),c(bl),c(un.$$.fragment,l),c(x),c(Sl.$$.fragment,l),c(N),c(dn.$$.fragment,l),c(bn.$$.fragment,l),c(jn.$$.fragment,l),c(fn.$$.fragment,l),c(In.$$.fragment,l),c(Al.$$.fragment,l),c(kn.$$.fragment,l),Ve=!0)},o(l){p(_.$$.fragment,l),p(Z.$$.fragment,l),p(v),p(al.$$.fragment,l),p(pl.$$.fragment,l),p(L.$$.fragment,l),p(z),p(K.$$.fragment,l),p(O.$$.fragment,l),p(F),p(f.$$.fragment,l),p(Ol.$$.fragment,l),p(tt.$$.fragment,l),p(nt.$$.fragment,l),p(et.$$.fragment,l),p(at.$$.fragment,l),p($l.$$.fragment,l),p(it.$$.fragment,l),p(ct.$$.fragment,l),p(rt.$$.fragment,l),p(Ut.$$.fragment,l),p(Jt.$$.fragment,l),p(ut.$$.fragment,l),p(Wl.$$.fragment,l),p(wt.$$.fragment,l),p(zl.$$.fragment,l),p(gt.$$.fragment,l),p(jt.$$.fragment,l),p(Ct.$$.fragment,l),p(It.$$.fragment,l),p(kt.$$.fragment,l),p(Gt.$$.fragment,l),p(vt.$$.fragment,l),p(Qt.$$.fragment,l),p($t.$$.fragment,l),p(zt.$$.fragment,l),p(xt.$$.fragment,l),p(St.$$.fragment,l),p(At.$$.fragment,l),p(Ft.$$.fragment,l),p(Ht.$$.fragment,l),p(qt.$$.fragment,l),p(Dt.$$.fragment,l),p(xl.$$.fragment,l),p(Ul),p(ln.$$.fragment,l),p(tn.$$.fragment,l),p(Nl.$$.fragment,l),p(sn.$$.fragment,l),p(en.$$.fragment,l),p(Mn.$$.fragment,l),p(cn.$$.fragment,l),p(ml),p(yn.$$.fragment,l),p(rn.$$.fragment,l),p(ul),p(on.$$.fragment,l),p(dl),p(bl),p(un.$$.fragment,l),p(x),p(Sl.$$.fragment,l),p(N),p(dn.$$.fragment,l),p(bn.$$.fragment,l),p(jn.$$.fragment,l),p(fn.$$.fragment,l),p(In.$$.fragment,l),p(Al.$$.fragment,l),p(kn.$$.fragment,l),Ve=!1},d(l){l&&(n(r),n(a),n(y),n(b),n(V),n(R),n(B),n(k),n($),n(I),n(X),n(G),n(Q),n(kl),n(H),n(Gl),n(W),n(sl),n(fl),n(el),n(Ml),n(Bl),n(Zl),n(q),n(Rl),n(A),n(hl),n(Cl),n(il),n(yl),n(D),n(vl),n(Vl),n(P),n(Xl),n(Ql),n(ll),n(cl),n(i),n(Dn),n(Pl),n(Kn),n(Pn),n(lt),n(On),n(ls),n(ts),n(st),n(ns),n(ss),n(es),n(Mt),n(as),n(Ms),n(ht),n(hs),n(is),n(cs),n(pt),n(ps),n(yt),n(ys),n(rs),n(Us),n(ot),n(os),n(mt),n(ms),n(Js),n(us),n(Tt),n(Ts),n(ds),n(dt),n(ws),n(bs),n(gs),n(bt),n(js),n(fs),n(Cs),n(ft),n(Is),n(_s),n(ks),n(_t),n(Gs),n(Bs),n(Zs),n(Bt),n(Rs),n(Zt),n(vs),n(Rt),n(Vs),n(Xs),n(Vt),n(Qs),n(Xt),n($s),n(Ws),n(zs),n(Wt),n(xs),n(Ns),n(Ss),n(Nt),n(As),n(Es),n(Fs),n(Et),n(Ys),n(Hs),n(Yt),n(Ls),n(qs),n(Lt),n(Ds),n(Ks),n(Ps),n(Kt),n(Os),n(le),n($n),n(Pt),n(te),n(Wn),n(Ot),n(ne),n(se),n(ee),n(ae),n(nn),n(Me),n(he),n(ie),n(an),n(ce),n(pe),n(hn),n(ye),n(re),n(pn),n(Ue),n(zn),n(oe),n(me),n(Un),n(Je),n(xn),n(ue),n(mn),n(Te),n(Nn),n(Jn),n(de),n(Sn),n(we),n(Tn),n(be),n(An),n(ge),n(En),n(je),n(wn),n(fe),n(Ce),n(gn),n(Ie),n(_e),n(ke),n(Cn),n(Ge),n(Be),n(_n),n(Ze),n(Re),n(ve),n(qn)),n(e),J(_,l),J(Z,l),Gn[j].d(l),J(al,l),J(pl,l),J(L,l),Bn[E].d(l),J(K,l),J(O,l),Zn[nl].d(l),J(f,l),J(Ol,l),J(tt,l),J(nt,l),J(et,l),J(at,l),J($l,l),J(it,l),J(ct,l),J(rt,l),J(Ut,l),J(Jt,l),J(ut,l),J(Wl,l),J(wt,l),J(zl,l),J(gt,l),J(jt,l),J(Ct,l),J(It,l),J(kt,l),J(Gt,l),J(vt,l),J(Qt,l),J($t,l),J(zt,l),J(xt,l),J(St,l),J(At,l),J(Ft,l),J(Ht,l),J(qt,l),J(Dt,l),J(xl,l),tl&&tl.d(l),Rn[rl].d(l),J(ln,l),J(tn,l),J(Nl,l),J(sn,l),J(en,l),J(Mn,l),J(cn,l),vn[ol].d(l),J(yn,l),J(rn,l),Vn[Jl].d(l),J(on,l),Xn[Tl].d(l),Qn[wl].d(l),J(un,l),x&&x.d(l),J(Sl,l),N&&N.d(l),J(dn,l),J(bn,l),J(jn,l),J(fn,l),J(In,l),J(Al,l),J(kn,l)}}}const zM='{"title":"Tinh chỉnh một mô hình ngôn ngữ bị ẩn đi","local":"tinh-chỉnh-một-mô-hình-ngôn-ngữ-bị-ẩn-đi","sections":[{"title":"Chọn một mô hình huấn luyện trước cho mô hình ngôn ngữ bị ẩn đi","local":"chọn-một-mô-hình-huấn-luyện-trước-cho-mô-hình-ngôn-ngữ-bị-ẩn-đi","sections":[],"depth":2},{"title":"Bộ dữ liệu","local":"bộ-dữ-liệu","sections":[],"depth":2},{"title":"Tiền xử lý dữ liệu","local":"tiền-xử-lý-dữ-liệu","sections":[],"depth":2},{"title":"Tinh chỉnh DistilBERT với API Trainer","local":"tinh-chỉnh-distilbert-với-api-trainer","sections":[{"title":"Perplexity cho mô hình ngôn ngữ","local":"perplexity-cho-mô-hình-ngôn-ngữ","sections":[],"depth":3}],"depth":2},{"title":"Tinh chỉnh DistilBERT với 🤗 Accelerate","local":"tinh-chỉnh-distilbert-với--accelerate","sections":[],"depth":2},{"title":"Sử dụng mô hình tinh chỉnh của mình","local":"sử-dụng-mô-hình-tinh-chỉnh-của-mình","sections":[],"depth":2}],"depth":1}';function xM(C,e,r){let a="pt";return hM(()=>{const y=new URLSearchParams(window.location.search);r(0,a=y.get("fw")||"pt")}),[a]}class qM extends iM{constructor(e){super(),cM(this,e,xM,WM,aM,{})}}export{qM as component};
