exp-model-parameter-similarity/results/cross-layer-qkv/calibration-output-metrics.csv

1	candidate	source_input_layer	target	sample	error_a	error_b	cosine	rms_a	rms_b	active
2	full_attention_3_7	3		cal-zh-1	1.7516841984404377	1.229454339945524	-0.01349016200112788	0.029520958454847816	0.042060444839671585	True
3	full_attention_3_7	3		cal-zh-2	2.0912363616136886	1.1471205828509157	-0.01366613144280849	0.02722234371521061	0.04962717597143223	True
4	full_attention_3_7	3		cal-en-1	1.9418227412980023	1.1829114574521113	-0.02313317248064157	0.03214367677215693	0.05276584494290738	True
5	full_attention_3_7	3		cal-en-2	2.2010158266456394	1.1332969565802382	-0.0186860902996918	0.02765954667582663	0.05371857714596088	True
6	full_attention_3_7	7		cal-zh-1	1.2810607453596277	1.4854974999649362	0.05947484448956754	0.035050566997595026	0.030226846887508412	True
7	full_attention_3_7	7		cal-zh-2	1.3096224692062994	1.4441163842961555	0.05915855898993469	0.03605750520421599	0.03269938594456126	True
8	full_attention_3_7	7		cal-en-1	1.3677303405715768	1.3411680228260805	0.08301421895059122	0.03331321209462487	0.03397299230837911	True
9	full_attention_3_7	7		cal-en-2	1.339804434609332	1.4128732525253884	0.05492330407611439	0.033841890516282475	0.03209170738297631	True
10	qkv_head_3_7_0_0	3		cal-zh-1	1.9429172649394897	1.1928276207018014	-0.037397877417901335	0.014857293594532826	0.024200053498181984	True
11	qkv_head_3_7_0_0	3		cal-zh-2	2.140571703570935	1.1641350137123692	-0.05465279372613128	0.013816240818171524	0.025404831739222065	True
12	qkv_head_3_7_0_0	3		cal-en-1	1.740987806806529	1.2476902580916291	-0.030094205156276293	0.01830340678414811	0.025539999072335107	True
13	qkv_head_3_7_0_0	3		cal-en-2	2.0112838676692193	1.1509962994680063	0.0023588839925372373	0.013985067666189349	0.024437907400979366	True
14	qkv_head_3_7_0_0	7		cal-zh-1	1.805086346446636	1.3014451626483021	-0.12062351812263138	0.018165452109361695	0.025195229519248016	True
15	qkv_head_3_7_0_0	7		cal-zh-2	1.932160278893167	1.2401428622249302	-0.09814893113135911	0.01775088753236324	0.02765613611934937	True
16	qkv_head_3_7_0_0	7		cal-en-1	1.9043337008622738	1.230096448571123	-0.07422544285875232	0.017878750670942904	0.02767840478812828	True
17	qkv_head_3_7_0_0	7		cal-en-2	1.8234333886329077	1.2852863993448924	-0.11003221402479238	0.018373576324715656	0.026066558049752983	True
18	qkv_head_3_7_0_1	3		cal-zh-1	2.2555108792813563	1.0810882811354434	0.0636185028188641	0.014857293594532826	0.030997271845320855	True
19	qkv_head_3_7_0_1	3		cal-zh-2	2.6459438604297514	1.047580422661466	0.07492359456982975	0.013816240818171524	0.03489660247199327	True
20	qkv_head_3_7_0_1	3		cal-en-1	2.0750700019986508	1.0922806820549165	0.07979132196898668	0.01830340678414811	0.034772060859586625	True
21	qkv_head_3_7_0_1	3		cal-en-2	3.043223534226476	1.039080731172331	0.05402556465836971	0.013985067666189349	0.04095898015689281	True
22	qkv_head_3_7_0_1	7		cal-zh-1	1.3293570189451516	1.3208726877178163	0.12206480830709733	0.018165452109361695	0.0182821338410859	True
23	qkv_head_3_7_0_1	7		cal-zh-2	1.3921741047418603	1.2858448314581703	0.1080979266163391	0.01775088753236324	0.01921874658135619	True
24	qkv_head_3_7_0_1	7		cal-en-1	1.539944898397695	1.1732742658804485	0.13381752984918277	0.017878750670942904	0.02346620196666643	True
25	qkv_head_3_7_0_1	7		cal-en-2	1.3883941958393275	1.259156228429933	0.13067442892484082	0.018373576324715656	0.020259413526353864	True
26	qkv_head_3_7_0_2	3		cal-zh-1	1.9165541072919194	1.1261398395553404	0.0655785576397487	0.014857293594532826	0.025285320758288047	True
27	qkv_head_3_7_0_2	3		cal-zh-2	2.279594513843026	1.077766426019344	0.0655140973209937	0.013816240818171524	0.029222868713181277	True
28	qkv_head_3_7_0_2	3		cal-en-1	1.8578233607845234	1.1345888239944273	0.07014250706264685	0.01830340678414811	0.02997076648949902	True
29	qkv_head_3_7_0_2	3		cal-en-2	2.4385584997094862	1.066157872763445	0.06227974612419558	0.013985067666189349	0.031987200486550335	True
30	qkv_head_3_7_0_2	7		cal-zh-1	1.40788592004612	1.281153468380188	0.10259325972219793	0.018165452109361695	0.019962389274391725	True
31	qkv_head_3_7_0_2	7		cal-zh-2	1.5045945672651546	1.2446607062623272	0.08168466300745532	0.01775088753236324	0.021457967469328536	True
32	qkv_head_3_7_0_2	7		cal-en-1	1.6031574510071356	1.2064171764294822	0.07365364397976391	0.017878750670942904	0.023758325820302448	True
33	qkv_head_3_7_0_2	7		cal-en-2	1.4001409703593672	1.2672387246544208	0.1178209929697	0.018373576324715656	0.02030051361575516	True
34	qkv_head_3_7_0_3	3		cal-zh-1	2.4616410306854477	1.1093007338356435	-0.0304864865514337	0.014857293594532826	0.03296971001793358	True
35	qkv_head_3_7_0_3	3		cal-zh-2	2.8878147995450565	1.0889215711078724	-0.057767012012632804	0.013816240818171524	0.03664060458293715	True
36	qkv_head_3_7_0_3	3		cal-en-1	2.3271835552212874	1.1396683098222586	-0.060257073290433644	0.01830340678414811	0.03737524936464923	True
37	qkv_head_3_7_0_3	3		cal-en-2	3.0734069732073395	1.076145508770859	-0.050672862073729424	0.013985067666189349	0.039940513746264075	True
38	qkv_head_3_7_0_3	7		cal-zh-1	1.646773322035939	1.3322863101083207	-0.07444728850490753	0.018165452109361695	0.022453418375203555	True
39	qkv_head_3_7_0_3	7		cal-zh-2	1.7668433820165412	1.2569022292116825	-0.05182689330793775	0.01775088753236324	0.024952647415659793	True
40	qkv_head_3_7_0_3	7		cal-en-1	1.8238463542122874	1.2620910249262067	-0.08238352655425447	0.017878750670942904	0.02583656296183254	True
41	qkv_head_3_7_0_3	7		cal-en-2	1.5960034829352632	1.3842227478899618	-0.09446129750258991	0.018373576324715656	0.021184662550101513	True
42	qkv_head_3_7_0_4	3		cal-zh-1	1.6167578895728552	1.2729249148907347	-0.0002835275598422278	0.014857293594532826	0.018870434819576988	True
43	qkv_head_3_7_0_4	3		cal-zh-2	1.9032971509257193	1.1792228776241978	-0.005408218444895368	0.013816240818171524	0.022299780885110847	True
44	qkv_head_3_7_0_4	3		cal-en-1	1.4965016480791715	1.325289201017254	0.015741405781041606	0.01830340678414811	0.020668000914001658	True
45	qkv_head_3_7_0_4	3		cal-en-2	1.835338546829425	1.1673497995206035	0.03289260939261106	0.013985067666189349	0.021987697071020156	True
46	qkv_head_3_7_0_4	7		cal-zh-1	1.2694012512859114	1.6560836418161202	-0.015554387882524699	0.018165452109361695	0.013923963171636937	True
47	qkv_head_3_7_0_4	7		cal-zh-2	1.386002904330004	1.4499069536447509	-0.003771557048966501	0.01775088753236324	0.016968524505965477	True
48	qkv_head_3_7_0_4	7		cal-en-1	1.326767166601305	1.5112243640921237	0.005963286941946718	0.017878750670942904	0.015696504062326037	True
49	qkv_head_3_7_0_4	7		cal-en-2	1.2437227581228252	1.6526465153771646	0.012960166811106715	0.018373576324715656	0.013827297495581158	True
50	qkv_head_3_7_0_5	3		cal-zh-1	1.6405995689030934	1.2586947658480163	0.002807793482180673	0.014857293594532826	0.019365194904767277	True
51	qkv_head_3_7_0_5	3		cal-zh-2	1.8554830550449966	1.1721212088618183	0.019934340661960658	0.013816240818171524	0.02187128816432883	True
52	qkv_head_3_7_0_5	3		cal-en-1	1.6939243230556567	1.2331747904202706	0.006361354892277559	0.01830340678414811	0.025142085442635357	True
53	qkv_head_3_7_0_5	3		cal-en-2	1.9778834171838737	1.1625134223530098	-0.0050871415668203405	0.013985067666189349	0.023793990583921856	True
54	qkv_head_3_7_0_5	7		cal-zh-1	1.255324148195908	1.6331367329062787	0.009755248503765033	0.018165452109361695	0.013963026019993798	True
55	qkv_head_3_7_0_5	7		cal-zh-2	1.2557743714833538	1.6084765834953816	0.020851732664516027	0.01775088753236324	0.01385852294211478	True
56	qkv_head_3_7_0_5	7		cal-en-1	1.2467104937855826	1.6312404590404597	0.019511247159316944	0.017878750670942904	0.013664218511568745	True
57	qkv_head_3_7_0_5	7		cal-en-2	1.2247487821866485	1.719718282981072	0.005048317231371352	0.018373576324715656	0.013085291614799106	True
58	qkv_head_3_7_0_6	3		cal-zh-1	2.051937142610851	1.1303829183378722	0.023334748249857835	0.014857293594532826	0.02696982772008222	True
59	qkv_head_3_7_0_6	3		cal-zh-2	2.603030769895322	1.0748777527938347	0.018346335636116488	0.013816240818171524	0.033458781596796376	True
60	qkv_head_3_7_0_6	3		cal-en-1	2.4891731452327175	1.0942808492767786	-0.004763439349073911	0.01830340678414811	0.04163496844844091	True
61	qkv_head_3_7_0_6	3		cal-en-2	2.817583187336652	1.065092821138491	0.01120814435610771	0.013985067666189349	0.0369959225599709	True
62	qkv_head_3_7_0_6	7		cal-zh-1	1.2795741371406353	1.5470138212848852	0.02830656442600437	0.018165452109361695	0.015025103453374768	True
63	qkv_head_3_7_0_6	7		cal-zh-2	1.3644532340702673	1.4512997262479128	0.01178910020374219	0.01775088753236324	0.01668866565817382	True
64	qkv_head_3_7_0_6	7		cal-en-1	1.2979706974013878	1.5495647276461721	0.010091256904774958	0.017878750670942904	0.014975879395680316	True
65	qkv_head_3_7_0_6	7		cal-en-2	1.3011820169529908	1.506806085399538	0.030468084180417906	0.018373576324715656	0.01586625335037326	True
66	qkv_head_3_7_0_7	3		cal-zh-1	1.604809643735416	1.2810337311161564	-0.0024114704953385373	0.014857293594532826	0.018612412351968546	True
67	qkv_head_3_7_0_7	3		cal-zh-2	1.941798230966655	1.1629997866276987	0.005132292538804604	0.013816240818171524	0.02306823465301554	True
68	qkv_head_3_7_0_7	3		cal-en-1	1.632614343342478	1.2558553926038747	0.009452000278908305	0.01830340678414811	0.023794462820973694	True
69	qkv_head_3_7_0_7	3		cal-en-2	2.0072106508492755	1.1606588734813694	-0.011035220211337226	0.013985067666189349	0.024185380746907	True
70	qkv_head_3_7_0_7	7		cal-zh-1	1.1368997918688504	2.0014733846306307	0.026511359053290797	0.018165452109361695	0.010318547766323774	True
71	qkv_head_3_7_0_7	7		cal-zh-2	1.1661829741079293	1.8913247967331315	0.016386490102569463	0.01775088753236324	0.010945123149288267	True
72	qkv_head_3_7_0_7	7		cal-en-1	1.1552200748354169	1.9526255417949516	0.01308728287489172	0.017878750670942904	0.010577497449441496	True
73	qkv_head_3_7_0_7	7		cal-en-2	1.120400463490801	2.1673394200052973	0.011546057653005615	0.018373576324715656	0.009498172386005286	True
74	qkv_head_3_7_1_0	3		cal-zh-1	2.4963279064541326	1.080339218447208	0.023289689965350982	0.010473090019549047	0.024200053498181984	True
75	qkv_head_3_7_1_0	3		cal-zh-2	2.3078706065968047	1.0913420871659492	0.034455371983295714	0.012013395384963238	0.025404831739222065	True
76	qkv_head_3_7_1_0	3		cal-en-1	2.3096909985244345	1.1033111173961907	0.011398840828451618	0.012200144925359209	0.025539999072335107	True
77	qkv_head_3_7_1_0	3		cal-en-2	2.7566302957169215	1.0755626701988414	-0.005894948797892581	0.009535011270502469	0.024437907400979366	True
78	qkv_head_3_7_1_0	7		cal-zh-1	2.362325549926187	1.0630565605790765	0.08045988598473586	0.011337960611131308	0.025195229519248016	True
79	qkv_head_3_7_1_0	7		cal-zh-2	2.2420019970656275	1.0905315574690058	0.048657884003630546	0.013452213350069579	0.02765613611934937	True
80	qkv_head_3_7_1_0	7		cal-en-1	2.331354488055777	1.0742182612013966	0.06333326662330159	0.0127533792122394	0.02767840478812828	True
81	qkv_head_3_7_1_0	7		cal-en-2	2.2576990791794107	1.078773035953452	0.06755726116893078	0.012455114245964722	0.026066558049752983	True
82	qkv_head_3_7_1_1	3		cal-zh-1	3.1357087304910864	1.0594661353875376	-0.01229971756125583	0.010473090019549047	0.030997271845320855	True
83	qkv_head_3_7_1_1	3		cal-zh-2	3.0845976085990894	1.0618939395419114	-0.01322550409521473	0.012013395384963238	0.03489660247199327	True
84	qkv_head_3_7_1_1	3		cal-en-1	3.040730607038968	1.0668724593188208	-0.02153805494416096	0.012200144925359209	0.034772060859586625	True
85	qkv_head_3_7_1_1	3		cal-en-2	4.400735300427131	1.0244654658719408	0.010016636529658115	0.009535011270502469	0.04095898015689281	True
86	qkv_head_3_7_1_1	7		cal-zh-1	1.9220904047124276	1.1920154118272515	-0.029262065217464113	0.011337960611131308	0.0182821338410859	True
87	qkv_head_3_7_1_1	7		cal-zh-2	1.7347386843526835	1.214235006936887	0.011120119331507188	0.013452213350069579	0.01921874658135619	True
88	qkv_head_3_7_1_1	7		cal-en-1	2.1254190114893663	1.1551198049403633	-0.035818102582573064	0.0127533792122394	0.02346620196666643	True
89	qkv_head_3_7_1_1	7		cal-en-2	1.9244084377814794	1.1830908588389195	-0.017687249093989502	0.012455114245964722	0.020259413526353864	True
90	qkv_head_3_7_1_2	3		cal-zh-1	2.6617692729198033	1.102495375599346	-0.05303927257339432	0.010473090019549047	0.025285320758288047	True
91	qkv_head_3_7_1_2	3		cal-zh-2	2.6587796038473477	1.0930128364874323	-0.031230434648335165	0.012013395384963238	0.029222868713181277	True
92	qkv_head_3_7_1_2	3		cal-en-1	2.677903183377736	1.0900891355159754	-0.027746989518531006	0.012200144925359209	0.02997076648949902	True
93	qkv_head_3_7_1_2	3		cal-en-2	3.5449313578300266	1.056702679069374	-0.046569916708002264	0.009535011270502469	0.031987200486550335	True
94	qkv_head_3_7_1_2	7		cal-zh-1	2.1107637380063347	1.1988422724338108	-0.1009191289122956	0.011337960611131308	0.019962389274391725	True
95	qkv_head_3_7_1_2	7		cal-zh-2	1.922591759013595	1.2052919068082522	-0.047624457784290655	0.013452213350069579	0.021457967469328536	True
96	qkv_head_3_7_1_2	7		cal-en-1	2.181930128134928	1.171251819222698	-0.07794452874525247	0.0127533792122394	0.023758325820302448	True
97	qkv_head_3_7_1_2	7		cal-en-2	1.9882951734123013	1.2198924622444454	-0.09103779092049742	0.012455114245964722	0.02030051361575516	True
98	qkv_head_3_7_1_3	3		cal-zh-1	3.2751522188950553	1.0403780924235009	0.029150836077077715	0.010473090019549047	0.03296971001793358	True
99	qkv_head_3_7_1_3	3		cal-zh-2	3.1901280852955085	1.0459508093154548	0.020566563569812325	0.012013395384963238	0.03664060458293715	True
100	qkv_head_3_7_1_3	3		cal-en-1	3.204678375706401	1.0460810640038865	0.01878918871507278	0.012200144925359209	0.03737524936464923	True
101	qkv_head_3_7_1_3	3		cal-en-2	4.295056624226591	1.0253602039176952	0.011788644716349342	0.009535011270502469	0.039940513746264075	True
102	qkv_head_3_7_1_3	7		cal-zh-1	2.113294588365337	1.0671181733763921	0.1150975564751018	0.011337960611131308	0.022453418375203555	True
103	qkv_head_3_7_1_3	7		cal-zh-2	2.0654409115679364	1.1134991546803532	0.0470765645451071	0.013452213350069579	0.024952647415659793	True
104	qkv_head_3_7_1_3	7		cal-en-1	2.17474147727913	1.0734904170225297	0.09245675879855805	0.0127533792122394	0.02583656296183254	True
105	qkv_head_3_7_1_3	7		cal-en-2	1.8700456366323708	1.0994573075846517	0.11638801205273018	0.012455114245964722	0.021184662550101513	True
106	qkv_head_3_7_1_4	3		cal-zh-1	2.0746325435256208	1.1514209181490869	-0.015986675445491316	0.010473090019549047	0.018870434819576988	True
107	qkv_head_3_7_1_4	3		cal-zh-2	2.084857464338678	1.1231597821266186	0.02666875138766484	0.012013395384963238	0.022299780885110847	True
108	qkv_head_3_7_1_4	3		cal-en-1	1.9902962325990798	1.1748549162127866	-0.026969759226417363	0.012200144925359209	0.020668000914001658	True
109	qkv_head_3_7_1_4	3		cal-en-2	2.5284111217408776	1.0964508226756513	-0.01631521213565685	0.009535011270502469	0.021987697071020156	True
110	qkv_head_3_7_1_4	7		cal-zh-1	1.5848098803426836	1.290473967645854	-0.00139774522785264	0.011337960611131308	0.013923963171636937	True
111	qkv_head_3_7_1_4	7		cal-zh-2	1.6018885881578122	1.269936407456338	0.009935304539288493	0.013452213350069579	0.016968524505965477	True
112	qkv_head_3_7_1_4	7		cal-en-1	1.5884772757465637	1.2906347163152223	-0.0034368461909781807	0.0127533792122394	0.015696504062326037	True
113	qkv_head_3_7_1_4	7		cal-en-2	1.5045725311484761	1.3552628612195026	-0.01407913854266347	0.012455114245964722	0.013827297495581158	True
114	qkv_head_3_7_1_5	3		cal-zh-1	2.1171730917515346	1.1450101321429105	-0.017160630379032114	0.010473090019549047	0.019365194904767277	True
115	qkv_head_3_7_1_5	3		cal-zh-2	2.0990030586880013	1.1529340873205933	-0.025080055777170596	0.012013395384963238	0.02187128816432883	True
116	qkv_head_3_7_1_5	3		cal-en-1	2.279973688667029	1.1063525136452617	0.011797751963475558	0.012200144925359209	0.025142085442635357	True
117	qkv_head_3_7_1_5	3		cal-en-2	2.695976971241872	1.0803639984280993	-0.008235313963555138	0.009535011270502469	0.023793990583921856	True
118	qkv_head_3_7_1_5	7		cal-zh-1	1.5853742658197796	1.287322028479172	0.001320244494836716	0.011337960611131308	0.013963026019993798	True
119	qkv_head_3_7_1_5	7		cal-zh-2	1.4389654661565248	1.3967773142183089	-0.004514394352163724	0.013452213350069579	0.01385852294211478	True
120	qkv_head_3_7_1_5	7		cal-en-1	1.4473005312940235	1.3508253321652375	0.024855253975482265	0.0127533792122394	0.013664218511568745	True
121	qkv_head_3_7_1_5	7		cal-en-2	1.4441759489489099	1.3746255692987355	0.008617735741846728	0.012455114245964722	0.013085291614799106	True
122	qkv_head_3_7_1_6	3		cal-zh-1	2.768679250830561	1.0751506212853805	-0.00663313621390506	0.010473090019549047	0.02696982772008222	True
123	qkv_head_3_7_1_6	3		cal-zh-2	2.9592117013036687	1.062506717189444	-4.449916877088003e-06	0.012013395384963238	0.033458781596796376	True
124	qkv_head_3_7_1_6	3		cal-en-1	3.569345767398842	1.0459125411589936	-0.013767654649042723	0.012200144925359209	0.04163496844844091	True
125	qkv_head_3_7_1_6	3		cal-en-2	3.997351909206815	1.0302431421913305	0.009747642837739875	0.009535011270502469	0.0369959225599709	True
126	qkv_head_3_7_1_6	7		cal-zh-1	1.6715731591448013	1.2613710578313022	-0.014334740075415865	0.011337960611131308	0.015025103453374768	True
127	qkv_head_3_7_1_6	7		cal-zh-2	1.5862374500702525	1.2786165796163698	0.009234084408148095	0.013452213350069579	0.01668866565817382	True
128	qkv_head_3_7_1_6	7		cal-en-1	1.5498369260443383	1.3198328801096073	-0.009831750886774447	0.0127533792122394	0.014975879395680316	True
129	qkv_head_3_7_1_6	7		cal-en-2	1.6229605569088636	1.2740348150635628	-0.0044135192008561	0.012455114245964722	0.01586625335037326	True
130	qkv_head_3_7_1_7	3		cal-zh-1	2.0430432440119772	1.1496078747742708	-0.00441971556752163	0.010473090019549047	0.018612412351968546	True
131	qkv_head_3_7_1_7	3		cal-zh-2	2.158568337953801	1.1241317465058858	0.007235367459508491	0.012013395384963238	0.02306823465301554	True
132	qkv_head_3_7_1_7	3		cal-en-1	2.1925427014952605	1.1241833410797784	-0.0008734612999589701	0.012200144925359209	0.023794462820973694	True
133	qkv_head_3_7_1_7	3		cal-en-2	2.733878959824257	1.0778232919672996	-0.007954957095079814	0.009535011270502469	0.024185380746907	True
134	qkv_head_3_7_1_7	7		cal-zh-1	1.370058510118498	1.5054123675586772	-0.026810145469335002	0.011337960611131308	0.010318547766323774	True
135	qkv_head_3_7_1_7	7		cal-zh-2	1.2893765694431778	1.5847212008627176	-0.00030622395254568556	0.013452213350069579	0.010945123149288267	True
136	qkv_head_3_7_1_7	7		cal-en-1	1.31281267478207	1.5828694789251967	-0.02145736488413737	0.0127533792122394	0.010577497449441496	True
137	qkv_head_3_7_1_7	7		cal-en-2	1.2808159026431614	1.6795555762889607	-0.03864620476367002	0.012455114245964722	0.009498172386005286	True
138	qkv_head_3_7_2_0	3		cal-zh-1	2.7469893158173093	1.0843977404166816	-0.025438434377668063	0.009553179977907358	0.024200053498181984	True
139	qkv_head_3_7_2_0	3		cal-zh-2	4.139338907400166	1.0307909529512866	-0.0010390418463130336	0.006326389624976942	0.025404831739222065	True
140	qkv_head_3_7_2_0	3		cal-en-1	2.6520455117426054	1.0727685630395536	0.0158128493913911	0.010331085188224187	0.025539999072335107	True
141	qkv_head_3_7_2_0	3		cal-en-2	3.085299855987567	1.0625896978804767	-0.01521865412766866	0.00841651374392129	0.024437907400979366	True
142	qkv_head_3_7_2_0	7		cal-zh-1	2.006191372871058	1.146782688451292	0.010182368807413305	0.014402142006463323	0.025195229519248016	True
143	qkv_head_3_7_2_0	7		cal-zh-2	2.7604407612071955	1.0862503286800482	-0.03188350862850729	0.010882858770903553	0.02765613611934937	True
144	qkv_head_3_7_2_0	7		cal-en-1	2.4523457668743425	1.0907257575267213	0.009146557884277534	0.012310478170515402	0.02767840478812828	True
145	qkv_head_3_7_2_0	7		cal-en-2	2.1246488490672317	1.1450230388920244	-0.019148638192367663	0.01404787879403551	0.026066558049752983	True
146	qkv_head_3_7_2_1	3		cal-zh-1	3.400749758535021	1.0480914147937899	-0.005697604168385635	0.009553179977907358	0.030997271845320855	True
147	qkv_head_3_7_2_1	3		cal-zh-2	5.592932672037916	1.0139402899744292	0.013213645990598724	0.006326389624976942	0.03489660247199327	True
148	qkv_head_3_7_2_1	3		cal-en-1	3.507324247433317	1.0420568895607485	0.004023907209833999	0.010331085188224187	0.034772060859586625	True
149	qkv_head_3_7_2_1	3		cal-en-2	4.961875473386158	1.019597972347284	0.006435070414232132	0.00841651374392129	0.04095898015689281	True
150	qkv_head_3_7_2_1	7		cal-zh-1	1.6058200104955898	1.2650190633657576	0.01289113442889551	0.014402142006463323	0.0182821338410859	True
151	qkv_head_3_7_2_1	7		cal-zh-2	1.9697464185484803	1.1153938680034097	0.06759224616908167	0.010882858770903553	0.01921874658135619	True
152	qkv_head_3_7_2_1	7		cal-en-1	2.118840565342981	1.1115535681278688	0.03779863872613221	0.012310478170515402	0.02346620196666643	True
153	qkv_head_3_7_2_1	7		cal-en-2	1.731721867109148	1.200776067011273	0.028079385959384456	0.01404787879403551	0.020259413526353864	True
154	qkv_head_3_7_2_2	3		cal-zh-1	2.8505145142097437	1.0769678757172532	-0.02265053626112284	0.009553179977907358	0.025285320758288047	True
155	qkv_head_3_7_2_2	3		cal-zh-2	4.714368334743702	1.0206024334561494	0.012096689456162463	0.006326389624976942	0.029222868713181277	True
156	qkv_head_3_7_2_2	3		cal-en-1	3.0944679013634833	1.0666798098878334	-0.02753655821204457	0.010331085188224187	0.02997076648949902	True
157	qkv_head_3_7_2_2	3		cal-en-2	3.935804574361311	1.035594012280901	-0.006122918000151434	0.00841651374392129	0.031987200486550335	True
158	qkv_head_3_7_2_2	7		cal-zh-1	1.7152492506286254	1.2374903096255745	-0.007534816357702601	0.014402142006463323	0.019962389274391725	True
159	qkv_head_3_7_2_2	7		cal-zh-2	2.1880888998333083	1.1097352304734747	0.025346618112692693	0.010882858770903553	0.021457967469328536	True
160	qkv_head_3_7_2_2	7		cal-en-1	2.169917127096215	1.1243518430965518	0.004165544212232541	0.012310478170515402	0.023758325820302448	True
161	qkv_head_3_7_2_2	7		cal-en-2	1.7613920882635077	1.2188766763760726	-0.004914460596835973	0.01404787879403551	0.02030051361575516	True
162	qkv_head_3_7_2_3	3		cal-zh-1	3.5924575332920745	1.0409370710224801	0.0007052588027960161	0.009553179977907358	0.03296971001793358	True
163	qkv_head_3_7_2_3	3		cal-zh-2	5.901849074164835	1.019016939703105	-0.024857528033345247	0.006326389624976942	0.03664060458293715	True
164	qkv_head_3_7_2_3	3		cal-en-1	3.7537235334579604	1.0375860564525239	-0.0003246728129389061	0.010331085188224187	0.03737524936464923	True
165	qkv_head_3_7_2_3	3		cal-en-2	4.8363631933360045	1.0191485654366428	0.013623705449541623	0.00841651374392129	0.039940513746264075	True
166	qkv_head_3_7_2_3	7		cal-zh-1	1.8455606859879818	1.1837853211027523	0.00785437190267707	0.014402142006463323	0.022453418375203555	True
167	qkv_head_3_7_2_3	7		cal-zh-2	2.498520470901733	1.0897058323346656	0.003163760176614368	0.010882858770903553	0.024952647415659793	True
168	qkv_head_3_7_2_3	7		cal-en-1	2.3201557787787386	1.105496389324107	0.0051484607837586314	0.012310478170515402	0.02583656296183254	True
169	qkv_head_3_7_2_3	7		cal-en-2	1.7831343814700458	1.1824241054171833	0.03136364834464984	0.01404787879403551	0.021184662550101513	True
170	qkv_head_3_7_2_4	3		cal-zh-1	2.208306692171073	1.1179578784714208	0.006380670196819142	0.009553179977907358	0.018870434819576988	True
171	qkv_head_3_7_2_4	3		cal-zh-2	3.668288296682575	1.040683813940606	-0.0044741189826877055	0.006326389624976942	0.022299780885110847	True
172	qkv_head_3_7_2_4	3		cal-en-1	2.2489601603949647	1.1241628592256623	-0.013887084062608364	0.010331085188224187	0.020668000914001658	True
173	qkv_head_3_7_2_4	3		cal-en-2	2.8026760149186147	1.0728163628564413	-0.005763351504205854	0.00841651374392129	0.021987697071020156	True
174	qkv_head_3_7_2_4	7		cal-zh-1	1.3668309963875809	1.4137709117838355	0.03437716073458315	0.014402142006463323	0.013923963171636937	True
175	qkv_head_3_7_2_4	7		cal-zh-2	1.854832080313402	1.1896070024647938	-0.0029841265065154517	0.010882858770903553	0.016968524505965477	True
176	qkv_head_3_7_2_4	7		cal-en-1	1.606819473753584	1.2601988300744766	0.01721092550787027	0.012310478170515402	0.015696504062326037	True
177	qkv_head_3_7_2_4	7		cal-en-2	1.3933459968807342	1.4155734834366824	0.013933421471966856	0.01404787879403551	0.013827297495581158	True
178	qkv_head_3_7_2_5	3		cal-zh-1	2.246183214518616	1.1080803791119243	0.015729786310451986	0.009553179977907358	0.019365194904767277	True
179	qkv_head_3_7_2_5	3		cal-zh-2	3.5791228552935297	1.0352808452853963	0.02050487678812076	0.006326389624976942	0.02187128816432883	True
180	qkv_head_3_7_2_5	3		cal-en-1	2.626060813877293	1.0790695163105737	0.00542019175430059	0.010331085188224187	0.025142085442635357	True
181	qkv_head_3_7_2_5	3		cal-en-2	2.983752515581947	1.0554259054311161	0.01582739614052736	0.00841651374392129	0.023793990583921856	True
182	qkv_head_3_7_2_5	7		cal-zh-1	1.3750002342889431	1.4182419057870161	0.025437949943637607	0.014402142006463323	0.013963026019993798	True
183	qkv_head_3_7_2_5	7		cal-zh-2	1.6055776069816803	1.2608323712051042	0.01717260630402388	0.010882858770903553	0.01385852294211478	True
184	qkv_head_3_7_2_5	7		cal-en-1	1.477346216713053	1.3309826929174	0.022286173686709265	0.012310478170515402	0.013664218511568745	True
185	qkv_head_3_7_2_5	7		cal-en-2	1.3498644661949633	1.4491639137820942	0.024432885330792818	0.01404787879403551	0.013085291614799106	True
186	qkv_head_3_7_2_6	3		cal-zh-1	3.011687385520929	1.066791821204373	-0.017750237699300602	0.009553179977907358	0.02696982772008222	True
187	qkv_head_3_7_2_6	3		cal-zh-2	5.391958033813643	1.0195119408261968	-0.009660760165680895	0.006326389624976942	0.033458781596796376	True
188	qkv_head_3_7_2_6	3		cal-en-1	4.173690398722868	1.0356378944270332	-0.02211491770404408	0.010331085188224187	0.04163496844844091	True
189	qkv_head_3_7_2_6	3		cal-en-2	4.502158063044389	1.0242338234299992	0.005935434254031473	0.00841651374392129	0.0369959225599709	True
190	qkv_head_3_7_2_6	7		cal-zh-1	1.444825021815738	1.3849205899482802	0.00041274047853863876	0.014402142006463323	0.015025103453374768	True
191	qkv_head_3_7_2_6	7		cal-zh-2	1.8327713500331864	1.1951699536865192	-0.002440344168220872	0.010882858770903553	0.01668866565817382	True
192	qkv_head_3_7_2_6	7		cal-en-1	1.5776966140270017	1.296898780600334	-0.003788793585777104	0.012310478170515402	0.014975879395680316	True
193	qkv_head_3_7_2_6	7		cal-en-2	1.5127565355313697	1.3393849188428482	-0.005664247178275253	0.01404787879403551	0.01586625335037326	True
194	qkv_head_3_7_2_7	3		cal-zh-1	2.193466087986582	1.1258388175434941	-0.00396250288876284	0.009553179977907358	0.018612412351968546	True
195	qkv_head_3_7_2_7	3		cal-zh-2	3.792049603227669	1.0399574838780055	-0.011486476306297346	0.006326389624976942	0.02306823465301554	True
196	qkv_head_3_7_2_7	3		cal-en-1	2.5336952945439695	1.1000803895376772	-0.024948622364413413	0.010331085188224187	0.023794462820973694	True
197	qkv_head_3_7_2_7	3		cal-en-2	3.055104174026033	1.0631764097031968	-0.013275920954379412	0.00841651374392129	0.024185380746907	True
198	qkv_head_3_7_2_7	7		cal-zh-1	1.230519911696443	1.717501620516004	-0.0006039460954404982	0.014402142006463323	0.010318547766323774	True
199	qkv_head_3_7_2_7	7		cal-zh-2	1.4187718881858924	1.4107008095435891	-0.0007150519345060872	0.010882858770903553	0.010945123149288267	True
200	qkv_head_3_7_2_7	7		cal-en-1	1.3228019952527463	1.5395253144053447	-0.006711712072532911	0.012310478170515402	0.010577497449441496	True
201	qkv_head_3_7_2_7	7		cal-en-2	1.2164391044191039	1.799123916131792	-0.016693743097088116	0.01404787879403551	0.009498172386005286	True
202	qkv_head_3_7_3_0	3		cal-zh-1	2.060388302612342	1.1461581549142794	-0.0038003964700978783	0.013462068597038523	0.024200053498181984	True
203	qkv_head_3_7_3_0	3		cal-zh-2	2.330672698531807	1.1000157561588326	0.013479912517635632	0.011990407410406662	0.025404831739222065	True
204	qkv_head_3_7_3_0	3		cal-en-1	2.2673881431445793	1.113042907128925	0.0021496904526557524	0.012537383553623561	0.025539999072335107	True
205	qkv_head_3_7_3_0	3		cal-en-2	2.291982497634337	1.1027016477445022	0.016127623283219757	0.0117573850525916	0.024437907400979366	True
206	qkv_head_3_7_3_0	7		cal-zh-1	1.8249181790728246	1.2306326143727637	-0.04427186540598795	0.016990389776678695	0.025195229519248016	True
207	qkv_head_3_7_3_0	7		cal-zh-2	1.8329198218189853	1.231888871694749	-0.04898437470321881	0.01858743951259767	0.02765613611934937	True
208	qkv_head_3_7_3_0	7		cal-en-1	2.119482780040638	1.1581915524594872	-0.03916183199129059	0.015124866742512415	0.02767840478812828	True
209	qkv_head_3_7_3_0	7		cal-en-2	1.8644595948969103	1.2113314256391543	-0.034800359481524046	0.01693533129403049	0.026066558049752983	True
210	qkv_head_3_7_3_1	3		cal-zh-1	2.503674502729685	1.0873420754120708	0.007255834669580285	0.013462068597038523	0.030997271845320855	True
211	qkv_head_3_7_3_1	3		cal-zh-2	3.0696820943295204	1.054737032379615	0.008133729621050984	0.011990407410406662	0.03489660247199327	True
212	qkv_head_3_7_3_1	3		cal-en-1	2.940966159825881	1.060392161191069	0.007725974671376045	0.012537383553623561	0.034772060859586625	True
213	qkv_head_3_7_3_1	3		cal-en-2	3.63998530248771	1.044867538771471	-0.01628434902820268	0.0117573850525916	0.04095898015689281	True
214	qkv_head_3_7_3_1	7		cal-zh-1	1.4693037952926609	1.3654885364788931	-0.0004728266762652616	0.016990389776678695	0.0182821338410859	True
215	qkv_head_3_7_3_1	7		cal-zh-2	1.427399100937409	1.3805111762464453	0.015287630278454518	0.01858743951259767	0.01921874658135619	True
216	qkv_head_3_7_3_1	7		cal-en-1	1.8300419650801172	1.179532201008086	0.018721502399520813	0.015124866742512415	0.02346620196666643	True
217	qkv_head_3_7_3_1	7		cal-en-2	1.567346770227924	1.310182882239419	-0.010652967478000049	0.01693533129403049	0.020259413526353864	True
218	qkv_head_3_7_3_2	3		cal-zh-1	2.094088550067086	1.114906311798938	0.03797904087849392	0.013462068597038523	0.025285320758288047	True
219	qkv_head_3_7_3_2	3		cal-zh-2	2.5974677652409532	1.065764523199922	0.0396036784075141	0.011990407410406662	0.029222868713181277	True
220	qkv_head_3_7_3_2	3		cal-en-1	2.5251230459117	1.0563105270524686	0.07075920720954236	0.012537383553623561	0.02997076648949902	True
221	qkv_head_3_7_3_2	3		cal-en-2	2.8472324765360764	1.0465438691627387	0.054208302346798375	0.0117573850525916	0.031987200486550335	True
222	qkv_head_3_7_3_2	7		cal-zh-1	1.5039003751821098	1.279999763976948	0.05052515522466114	0.016990389776678695	0.019962389274391725	True
223	qkv_head_3_7_3_2	7		cal-zh-2	1.4913442999618793	1.2918405253256806	0.04704014350064461	0.01858743951259767	0.021457967469328536	True
224	qkv_head_3_7_3_2	7		cal-en-1	1.8221960026812931	1.1600342518975735	0.0468078933878898	0.015124866742512415	0.023758325820302448	True
225	qkv_head_3_7_3_2	7		cal-en-2	1.5411160385318021	1.2856478003011875	0.02580350750808634	0.01693533129403049	0.02030051361575516	True
226	qkv_head_3_7_3_3	3		cal-zh-1	2.654262907237479	1.0837786960325042	-0.009617662660248386	0.013462068597038523	0.03296971001793358	True
227	qkv_head_3_7_3_3	3		cal-zh-2	3.2330481458752782	1.0579946725157712	-0.018738757071627567	0.011990407410406662	0.03664060458293715	True
228	qkv_head_3_7_3_3	3		cal-en-1	3.1913836271431033	1.0705373550789408	-0.04997241443937551	0.012537383553623561	0.03737524936464923	True
229	qkv_head_3_7_3_3	3		cal-en-2	3.5538612781753924	1.0461586883045992	-0.013236445925772297	0.0117573850525916	0.039940513746264075	True
230	qkv_head_3_7_3_3	7		cal-zh-1	1.663917413669925	1.2590780139595938	-0.008385213149890656	0.016990389776678695	0.022453418375203555	True
231	qkv_head_3_7_3_3	7		cal-zh-2	1.670890857293221	1.244660825953044	0.003831425474902283	0.01858743951259767	0.024952647415659793	True
232	qkv_head_3_7_3_3	7		cal-en-1	1.9907938313287923	1.1654217108964884	-0.013245633258959858	0.015124866742512415	0.02583656296183254	True
233	qkv_head_3_7_3_3	7		cal-en-2	1.6089963143765373	1.2862553543346444	-0.009625120309353622	0.01693533129403049	0.021184662550101513	True
234	qkv_head_3_7_3_4	3		cal-zh-1	1.7045440610864382	1.2160127361354909	0.021197980323799034	0.013462068597038523	0.018870434819576988	True
235	qkv_head_3_7_3_4	3		cal-zh-2	2.082198737085986	1.1195810082494941	0.033151659719864605	0.011990407410406662	0.022299780885110847	True
236	qkv_head_3_7_3_4	3		cal-en-1	1.900231112397429	1.1526962087811632	0.032364564919754854	0.012537383553623561	0.020668000914001658	True
237	qkv_head_3_7_3_4	3		cal-en-2	2.1014762159286646	1.123713182409697	0.021693534351725243	0.0117573850525916	0.021987697071020156	True
238	qkv_head_3_7_3_4	7		cal-zh-1	1.2713437146415687	1.551327376094417	0.03373809776805092	0.016990389776678695	0.013923963171636937	True
239	qkv_head_3_7_3_4	7		cal-zh-2	1.330120375987284	1.4570230914565063	0.0351467903164981	0.01858743951259767	0.016968524505965477	True
240	qkv_head_3_7_3_4	7		cal-en-1	1.411237538433489	1.3598429068080478	0.04115752492488235	0.015124866742512415	0.015696504062326037	True
241	qkv_head_3_7_3_4	7		cal-en-2	1.2630913964678858	1.547003039506398	0.04362266929703998	0.01693533129403049	0.013827297495581158	True
242	qkv_head_3_7_3_5	3		cal-zh-1	1.7505516439828208	1.2169279178364405	0.0016868827083241062	0.013462068597038523	0.019365194904767277	True
243	qkv_head_3_7_3_5	3		cal-zh-2	2.0743134125678417	1.1371924107389508	0.006698969015587178	0.011990407410406662	0.02187128816432883	True
244	qkv_head_3_7_3_5	3		cal-en-1	2.2336456731630756	1.1138325255966446	0.008061724605436837	0.012537383553623561	0.025142085442635357	True
245	qkv_head_3_7_3_5	3		cal-en-2	2.258281869846349	1.115890560997848	-0.0010571809472753775	0.0117573850525916	0.023793990583921856	True
246	qkv_head_3_7_3_5	7		cal-zh-1	1.2888005455772578	1.5682290917741546	0.00874870689213031	0.016990389776678695	0.013963026019993798	True
247	qkv_head_3_7_3_5	7		cal-zh-2	1.2316824561801991	1.651967042130078	0.02605729054167398	0.01858743951259767	0.01385852294211478	True
248	qkv_head_3_7_3_5	7		cal-en-1	1.3266396219829093	1.4684518899372403	0.03110837677800195	0.015124866742512415	0.013664218511568745	True
249	qkv_head_3_7_3_5	7		cal-en-2	1.255162531208934	1.6244646217770613	0.013960829321179914	0.01693533129403049	0.013085291614799106	True
250	qkv_head_3_7_3_6	3		cal-zh-1	2.2403430025413376	1.1182737796522635	-0.0013849424567477606	0.013462068597038523	0.02696982772008222	True
251	qkv_head_3_7_3_6	3		cal-zh-2	2.9577922928847418	1.059964916069886	0.006834963402436995	0.011990407410406662	0.033458781596796376	True
252	qkv_head_3_7_3_6	3		cal-en-1	3.469446463033461	1.0447415393067745	-0.0013413671932659156	0.012537383553623561	0.04163496844844091	True
253	qkv_head_3_7_3_6	3		cal-en-2	3.314312392163411	1.0532957224157367	-0.013268709254333017	0.0117573850525916	0.0369959225599709	True
254	qkv_head_3_7_3_6	7		cal-zh-1	1.335645969236135	1.5103487101697566	-0.001080724139474023	0.016990389776678695	0.015025103453374768	True
255	qkv_head_3_7_3_6	7		cal-zh-2	1.3409076136983404	1.4934710582683537	0.004507970489347028	0.01858743951259767	0.01668866565817382	True
256	qkv_head_3_7_3_6	7		cal-en-1	1.4169173109524438	1.4310134949067677	-0.013764897832944925	0.015124866742512415	0.014975879395680316	True
257	qkv_head_3_7_3_6	7		cal-en-2	1.3666734280077792	1.4587607271199645	0.005302008879855901	0.01693533129403049	0.01586625335037326	True
258	qkv_head_3_7_3_7	3		cal-zh-1	1.7066634044474436	1.234403117030491	-0.0004221346273962711	0.013462068597038523	0.018612412351968546	True
259	qkv_head_3_7_3_7	3		cal-zh-2	2.1730477327199895	1.129506788425489	-0.005400667949929341	0.011990407410406662	0.02306823465301554	True
260	qkv_head_3_7_3_7	3		cal-en-1	2.1422371179583184	1.1287520383514795	0.003364978572339346	0.012537383553623561	0.023794462820973694	True
261	qkv_head_3_7_3_7	3		cal-en-2	2.2869103286030734	1.1117495149450463	0.0003509908390245358	0.0117573850525916	0.024185380746907	True
262	qkv_head_3_7_3_7	7		cal-zh-1	1.1576893208335797	1.906236540907026	0.023537169489379752	0.016990389776678695	0.010318547766323774	True
263	qkv_head_3_7_3_7	7		cal-zh-2	1.1613191889101144	1.9721980177161746	-0.001633431973629514	0.01858743951259767	0.010945123149288267	True
264	qkv_head_3_7_3_7	7		cal-en-1	1.2167479955148888	1.7398398231099073	0.0061539847101946266	0.015124866742512415	0.010577497449441496	True
265	qkv_head_3_7_3_7	7		cal-en-2	1.1392188066576625	2.031237918524639	0.01491727404837172	0.01693533129403049	0.009498172386005286	True
266	qkv_head_3_7_4_0	3		cal-zh-1	1.8500553961649788	1.1497777975582144	0.05169250367504032	0.01503991949084825	0.024200053498181984	True
267	qkv_head_3_7_4_0	3		cal-zh-2	1.8461616531754252	1.1605875521338793	0.03836482609218847	0.01597072034828748	0.025404831739222065	True
268	qkv_head_3_7_4_0	3		cal-en-1	1.7850360077168808	1.1922378620011485	0.018467023134978725	0.01705834154486236	0.025539999072335107	True
269	qkv_head_3_7_4_0	3		cal-en-2	1.8186605159935614	1.1826542395804163	0.018610383003294886	0.01589169311153847	0.024437907400979366	True
270	qkv_head_3_7_4_0	7		cal-zh-1	1.8934973477871124	1.1183693369174128	0.08304758651529907	0.014881231370011646	0.025195229519248016	True
271	qkv_head_3_7_4_0	7		cal-zh-2	1.8350118036138914	1.116956720102772	0.10096524905496798	0.016834064516504904	0.02765613611934937	True
272	qkv_head_3_7_4_0	7		cal-en-1	2.042034509958607	1.0898669514231214	0.09091257966911973	0.014772413737172332	0.02767840478812828	True
273	qkv_head_3_7_4_0	7		cal-en-2	1.9154110893306635	1.1375324805329783	0.04943586182025041	0.015480518308815921	0.026066558049752983	True
274	qkv_head_3_7_4_1	3		cal-zh-1	2.326218093198693	1.128684260164791	-0.039682251033934794	0.01503991949084825	0.030997271845320855	True
275	qkv_head_3_7_4_1	3		cal-zh-2	2.439946554777066	1.1166618332654608	-0.04095032646693763	0.01597072034828748	0.03489660247199327	True
276	qkv_head_3_7_4_1	3		cal-en-1	2.3056543786761394	1.1310989024977964	-0.03946363406461496	0.01705834154486236	0.034772060859586625	True
277	qkv_head_3_7_4_1	3		cal-en-2	2.8039127671374993	1.0878913741551044	-0.04248951658872814	0.01589169311153847	0.04095898015689281	True
278	qkv_head_3_7_4_1	7		cal-zh-1	1.62275468389808	1.3208845377549807	-0.050479243684429756	0.014881231370011646	0.0182821338410859	True
279	qkv_head_3_7_4_1	7		cal-zh-2	1.5592186047115646	1.365749138526651	-0.05596218915512862	0.016834064516504904	0.01921874658135619	True
280	qkv_head_3_7_4_1	7		cal-en-1	1.91652361602482	1.2064875190794309	-0.04711400550545003	0.014772413737172332	0.02346620196666643	True
281	qkv_head_3_7_4_1	7		cal-en-2	1.6855313559141631	1.2879395043380868	-0.049021882296377946	0.015480518308815921	0.020259413526353864	True
282	qkv_head_3_7_4_2	3		cal-zh-1	2.0119712178510056	1.1967372462326553	-0.06588936225397904	0.01503991949084825	0.025285320758288047	True
283	qkv_head_3_7_4_2	3		cal-zh-2	2.1494224567037126	1.174690455727234	-0.07430691801752415	0.01597072034828748	0.029222868713181277	True
284	qkv_head_3_7_4_2	3		cal-en-1	2.0946255034780883	1.1921896378401824	-0.08553408446347721	0.01705834154486236	0.02997076648949902	True
285	qkv_head_3_7_4_2	3		cal-en-2	2.324905125194106	1.1550457120673203	-0.0878661801866247	0.01589169311153847	0.031987200486550335	True
286	qkv_head_3_7_4_2	7		cal-zh-1	1.726918185447162	1.2873543703351593	-0.06812241200305762	0.014881231370011646	0.019962389274391725	True
287	qkv_head_3_7_4_2	7		cal-zh-2	1.6885477165495517	1.3246884282130784	-0.0888053887675188	0.016834064516504904	0.021457967469328536	True
288	qkv_head_3_7_4_2	7		cal-en-1	1.954198078626124	1.215078148191034	-0.07221747495957367	0.014772413737172332	0.023758325820302448	True
289	qkv_head_3_7_4_2	7		cal-en-2	1.6812441133139313	1.2820626497620335	-0.04076684356332853	0.015480518308815921	0.02030051361575516	True
290	qkv_head_3_7_4_3	3		cal-zh-1	2.32055489193525	1.0585764548677001	0.09591789323454517	0.01503991949084825	0.03296971001793358	True
291	qkv_head_3_7_4_3	3		cal-zh-2	2.3958875000366193	1.044307256514575	0.11403420000192958	0.01597072034828748	0.03664060458293715	True
292	qkv_head_3_7_4_3	3		cal-en-1	2.3102515561491326	1.0544159776661208	0.10573303866998081	0.01705834154486236	0.03737524936464923	True
293	qkv_head_3_7_4_3	3		cal-en-2	2.602828234789421	1.0356238227704295	0.10781408707283363	0.01589169311153847	0.039940513746264075	True
294	qkv_head_3_7_4_3	7		cal-zh-1	1.6663718099813738	1.1044048633674068	0.16562623270778726	0.014881231370011646	0.022453418375203555	True
295	qkv_head_3_7_4_3	7		cal-zh-2	1.6283274371432803	1.0985355050407286	0.1840680105035268	0.016834064516504904	0.024952647415659793	True
296	qkv_head_3_7_4_3	7		cal-en-1	1.8637082554131816	1.0656010814990542	0.16738402352110932	0.014772413737172332	0.02583656296183254	True
297	qkv_head_3_7_4_3	7		cal-en-2	1.5506517829671558	1.1331260651449973	0.1710651365502855	0.015480518308815921	0.021184662550101513	True
298	qkv_head_3_7_4_4	3		cal-zh-1	1.6190226765625548	1.2903767688541432	-0.018724836510056225	0.01503991949084825	0.018870434819576988	True
299	qkv_head_3_7_4_4	3		cal-zh-2	1.744677965191933	1.2495084155066172	-0.0337577370405614	0.01597072034828748	0.022299780885110847	True
300	qkv_head_3_7_4_4	3		cal-en-1	1.6025016575999063	1.322625285110585	-0.04127608655709048	0.01705834154486236	0.020668000914001658	True
301	qkv_head_3_7_4_4	3		cal-en-2	1.7357370061117832	1.2545106353963988	-0.035574891081473936	0.01589169311153847	0.021987697071020156	True
302	qkv_head_3_7_4_4	7		cal-zh-1	1.3901626223754788	1.4857358763812054	-0.030496002814811244	0.014881231370011646	0.013923963171636937	True
303	qkv_head_3_7_4_4	7		cal-zh-2	1.450099718471574	1.438609008551927	-0.04303161283555894	0.016834064516504904	0.016968524505965477	True
304	qkv_head_3_7_4_4	7		cal-en-1	1.4851484731250941	1.3977142693060611	-0.036065222095699255	0.014772413737172332	0.015696504062326037	True
305	qkv_head_3_7_4_4	7		cal-en-2	1.3695080978430572	1.5332493706384995	-0.04351447861360208	0.015480518308815921	0.013827297495581158	True
306	qkv_head_3_7_4_5	3		cal-zh-1	1.6405211487691433	1.2741057408334053	-0.01298206310702793	0.01503991949084825	0.019365194904767277	True
307	qkv_head_3_7_4_5	3		cal-zh-2	1.7176284903016796	1.2542363337153326	-0.02731824327468676	0.01597072034828748	0.02187128816432883	True
308	qkv_head_3_7_4_5	3		cal-en-1	1.801450280958038	1.222243645571249	-0.024722768413032573	0.01705834154486236	0.025142085442635357	True
309	qkv_head_3_7_4_5	3		cal-en-2	1.81354564724232	1.2112432661554424	-0.01574924190417249	0.01589169311153847	0.023793990583921856	True
310	qkv_head_3_7_4_5	7		cal-zh-1	1.3741744386582397	1.464539830775036	-0.004237837344281098	0.014881231370011646	0.013963026019993798	True
311	qkv_head_3_7_4_5	7		cal-zh-2	1.294897744442957	1.572923194144024	0.0005882780852545372	0.016834064516504904	0.01385852294211478	True
312	qkv_head_3_7_4_5	7		cal-en-1	1.3770542441125493	1.4887360748320058	-0.021993115491565362	0.014772413737172332	0.013664218511568745	True
313	qkv_head_3_7_4_5	7		cal-en-2	1.3175556979806067	1.5587306500992077	-0.012696210978006646	0.015480518308815921	0.013085291614799106	True
314	qkv_head_3_7_4_6	3		cal-zh-1	2.1136006338425206	1.1786646803504472	-0.0701764767165638	0.01503991949084825	0.02696982772008222	True
315	qkv_head_3_7_4_6	3		cal-zh-2	2.3860220299812456	1.138908494783095	-0.07256393430683344	0.01597072034828748	0.033458781596796376	True
316	qkv_head_3_7_4_6	3		cal-en-1	2.679682365938256	1.097897722356298	-0.04578287615825053	0.01705834154486236	0.04163496844844091	True
317	qkv_head_3_7_4_6	3		cal-en-2	2.564401637237063	1.1015452788787077	-0.033624061004482016	0.01589169311153847	0.0369959225599709	True
318	qkv_head_3_7_4_6	7		cal-zh-1	1.4714788349123527	1.4573887671627008	-0.07221207473925759	0.014881231370011646	0.015025103453374768	True
319	qkv_head_3_7_4_6	7		cal-zh-2	1.4598246835238484	1.4725433062523197	-0.07478990758906238	0.016834064516504904	0.01668866565817382	True
320	qkv_head_3_7_4_6	7		cal-en-1	1.4686119406959475	1.4486590492689115	-0.06366542494912875	0.014772413737172332	0.014975879395680316	True
321	qkv_head_3_7_4_6	7		cal-en-2	1.4713492781508442	1.4355783269111475	-0.05581567516167985	0.015480518308815921	0.01586625335037326	True
322	qkv_head_3_7_4_7	3		cal-zh-1	1.5999729996639922	1.2928719097464192	-0.01148376316351434	0.01503991949084825	0.018612412351968546	True
323	qkv_head_3_7_4_7	3		cal-zh-2	1.7575330221358123	1.2167844146557762	-0.0009028405050038065	0.01597072034828748	0.02306823465301554	True
324	qkv_head_3_7_4_7	3		cal-en-1	1.7268091396655734	1.2379560870456285	-0.012961411449467143	0.01705834154486236	0.023794462820973694	True
325	qkv_head_3_7_4_7	3		cal-en-2	1.8135397886686822	1.1916379596700277	0.008941927432721469	0.01589169311153847	0.024185380746907	True
326	qkv_head_3_7_4_7	7		cal-zh-1	1.2823602508253766	1.84939780523373	-0.11800904747790696	0.014881231370011646	0.010318547766323774	True
327	qkv_head_3_7_4_7	7		cal-zh-2	1.2669892299232308	1.948683276316674	-0.1403705672656962	0.016834064516504904	0.010945123149288267	True
328	qkv_head_3_7_4_7	7		cal-en-1	1.3004770891345288	1.8162316472525524	-0.1246742530673386	0.014772413737172332	0.010577497449441496	True
329	qkv_head_3_7_4_7	7		cal-en-2	1.2214241633210596	1.9907281479731302	-0.09406259286454426	0.015480518308815921	0.009498172386005286	True
330	qkv_head_3_7_5_0	3		cal-zh-1	2.638899940911931	1.103598252159074	-0.051451694205487356	0.010120556800467573	0.024200053498181984	True
331	qkv_head_3_7_5_0	3		cal-zh-2	2.792518672453978	1.096980436903231	-0.06243437846953079	0.009979737537888988	0.025404831739222065	True
332	qkv_head_3_7_5_0	3		cal-en-1	2.3694450034479684	1.1090587764871565	-0.011670070273491484	0.011954428181041804	0.025539999072335107	True
333	qkv_head_3_7_5_0	3		cal-en-2	2.4470445692597886	1.1146282681767645	-0.038327268268175216	0.01113146149702431	0.024437907400979366	True
334	qkv_head_3_7_5_0	7		cal-zh-1	2.325522332049823	1.1279573574105317	-0.03817241431124343	0.012220542506178758	0.025195229519248016	True
335	qkv_head_3_7_5_0	7		cal-zh-2	2.2902733236424413	1.1483669122490943	-0.06714474971574119	0.013867074864937028	0.02765613611934937	True
336	qkv_head_3_7_5_0	7		cal-en-1	2.519015587512148	1.1116121919718007	-0.046394010951732415	0.012214157137154152	0.02767840478812828	True
337	qkv_head_3_7_5_0	7		cal-en-2	2.36828666179212	1.1350308331021095	-0.06113822599946777	0.012492722091728189	0.026066558049752983	True
338	qkv_head_3_7_5_1	3		cal-zh-1	3.2800381191137906	1.0709268950454736	-0.0616898597319355	0.010120556800467573	0.030997271845320855	True
339	qkv_head_3_7_5_1	3		cal-zh-2	3.6531662695206886	1.044733239613944	-0.016929255896655976	0.009979737537888988	0.03489660247199327	True
340	qkv_head_3_7_5_1	3		cal-en-1	3.114573300296881	1.070771818309536	-0.04124260710987472	0.011954428181041804	0.034772060859586625	True
341	qkv_head_3_7_5_1	3		cal-en-2	3.867696146187258	1.0511275077787194	-0.057050945905573504	0.01113146149702431	0.04095898015689281	True
342	qkv_head_3_7_5_1	7		cal-zh-1	1.825543554380479	1.2202696248208962	-0.03159849755679383	0.012220542506178758	0.0182821338410859	True
343	qkv_head_3_7_5_1	7		cal-zh-2	1.706255173134806	1.231129622547778	0.0034220996693323335	0.013867074864937028	0.01921874658135619	True
344	qkv_head_3_7_5_1	7		cal-en-1	2.1751265966496414	1.1321533021159857	-0.010423529424707149	0.012214157137154152	0.02346620196666643	True
345	qkv_head_3_7_5_1	7		cal-en-2	1.9146506396971958	1.1806461383184699	-0.011094851346856791	0.012492722091728189	0.020259413526353864	True
346	qkv_head_3_7_5_2	3		cal-zh-1	2.7436668722428252	1.0981642941188747	-0.05716536792722099	0.010120556800467573	0.025285320758288047	True
347	qkv_head_3_7_5_2	3		cal-zh-2	3.1301821416023503	1.0689708982913209	-0.038174536813012534	0.009979737537888988	0.029222868713181277	True
348	qkv_head_3_7_5_2	3		cal-en-1	2.7564402551777976	1.0994602716417325	-0.06232101231214954	0.011954428181041804	0.02997076648949902	True
349	qkv_head_3_7_5_2	3		cal-en-2	3.073060646939201	1.069417008962933	-0.03240049343451545	0.01113146149702431	0.031987200486550335	True
350	qkv_head_3_7_5_2	7		cal-zh-1	1.914897032613086	1.1722585037465083	0.0004674546739657016	0.012220542506178758	0.019962389274391725	True
351	qkv_head_3_7_5_2	7		cal-zh-2	1.8276272832464864	1.181092496211784	0.017525394494624456	0.013867074864937028	0.021457967469328536	True
352	qkv_head_3_7_5_2	7		cal-en-1	2.1768283779402218	1.1191076370397124	0.011570690778935315	0.012214157137154152	0.023758325820302448	True
353	qkv_head_3_7_5_2	7		cal-en-2	1.8937628897836876	1.1654017202468512	0.01669106970523401	0.012492722091728189	0.02030051361575516	True
354	qkv_head_3_7_5_3	3		cal-zh-1	3.3773404969701515	1.0367263259371584	0.031642368708867594	0.010120556800467573	0.03296971001793358	True
355	qkv_head_3_7_5_3	3		cal-zh-2	3.812972350219798	1.0385326259638643	-0.008014055778347186	0.009979737537888988	0.03664060458293715	True
356	qkv_head_3_7_5_3	3		cal-en-1	3.278147603568601	1.0485115353044532	0.004575297971600449	0.011954428181041804	0.03737524936464923	True
357	qkv_head_3_7_5_3	3		cal-en-2	3.718399747364541	1.0363217629418933	0.006658490942289538	0.01113146149702431	0.039940513746264075	True
358	qkv_head_3_7_5_3	7		cal-zh-1	2.0893896385743584	1.1371753941201812	0.0028049479585574915	0.012220542506178758	0.022453418375203555	True
359	qkv_head_3_7_5_3	7		cal-zh-2	2.0732888475834073	1.1522004534089998	-0.016845969743622798	0.013867074864937028	0.024952647415659793	True
360	qkv_head_3_7_5_3	7		cal-en-1	2.3608110606383903	1.1160663014026393	-0.023389129984481723	0.012214157137154152	0.02583656296183254	True
361	qkv_head_3_7_5_3	7		cal-en-2	1.98967168065025	1.1733212790791527	-0.02452890743560664	0.012492722091728189	0.021184662550101513	True
362	qkv_head_3_7_5_4	3		cal-zh-1	2.128109301216881	1.141343655644052	-0.01401050471679599	0.010120556800467573	0.018870434819576988	True
363	qkv_head_3_7_5_4	3		cal-zh-2	2.4623325063572024	1.1019584573974213	-0.01567806150478005	0.009979737537888988	0.022299780885110847	True
364	qkv_head_3_7_5_4	3		cal-en-1	1.989217666532258	1.1505689316526773	0.00928492606690397	0.011954428181041804	0.020668000914001658	True
365	qkv_head_3_7_5_4	3		cal-en-2	2.211225750309122	1.1194521291288948	0.003086106068590859	0.01113146149702431	0.021987697071020156	True
366	qkv_head_3_7_5_4	7		cal-zh-1	1.501847636198134	1.3181155860386924	0.0187219088149475	0.012220542506178758	0.013923963171636937	True
367	qkv_head_3_7_5_4	7		cal-zh-2	1.5568155595670206	1.2722660657869826	0.030097708865582537	0.013867074864937028	0.016968524505965477	True
368	qkv_head_3_7_5_4	7		cal-en-1	1.6108850105279737	1.2535022174586818	0.022002278890251786	0.012214157137154152	0.015696504062326037	True
369	qkv_head_3_7_5_4	7		cal-en-2	1.4621942880595644	1.321067033574571	0.03932705856234325	0.012492722091728189	0.013827297495581158	True
370	qkv_head_3_7_5_5	3		cal-zh-1	2.148980975442952	1.1230914086870625	0.011282629347761702	0.010120556800467573	0.019365194904767277	True
371	qkv_head_3_7_5_5	3		cal-zh-2	2.405202704985172	1.0974795604550187	0.004101333610300464	0.009979737537888988	0.02187128816432883	True
372	qkv_head_3_7_5_5	3		cal-en-1	2.3210573191424104	1.1036042769434236	0.008553439961789163	0.011954428181041804	0.025142085442635357	True
373	qkv_head_3_7_5_5	3		cal-en-2	2.3452107398173663	1.0971519451774967	0.016159115977676324	0.01113146149702431	0.023793990583921856	True
374	qkv_head_3_7_5_5	7		cal-zh-1	1.5352036159387223	1.3436214340182702	-0.022469370301349278	0.012220542506178758	0.013963026019993798	True
375	qkv_head_3_7_5_5	7		cal-zh-2	1.4326344189762086	1.4335184799280687	-0.026853767010562968	0.013867074864937028	0.01385852294211478	True
376	qkv_head_3_7_5_5	7		cal-en-1	1.5057089498789862	1.3459215176536206	-0.006983705866564851	0.012214157137154152	0.013664218511568745	True
377	qkv_head_3_7_5_5	7		cal-en-2	1.444189739766704	1.3787893764802184	0.005457274141492925	0.012492722091728189	0.013085291614799106	True
378	qkv_head_3_7_5_6	3		cal-zh-1	2.861665304667702	1.0738535878095896	-0.01644932702515649	0.010120556800467573	0.02696982772008222	True
379	qkv_head_3_7_5_6	3		cal-zh-2	3.50009982706339	1.043973389450851	-0.0015349891281832891	0.009979737537888988	0.033458781596796376	True
380	qkv_head_3_7_5_6	3		cal-en-1	3.6135381823298895	1.0375360974179535	0.01037779862627053	0.011954428181041804	0.04163496844844091	True
381	qkv_head_3_7_5_6	3		cal-en-2	3.454084645882918	1.0392769684492171	0.01733934481497667	0.01113146149702431	0.0369959225599709	True
382	qkv_head_3_7_5_6	7		cal-zh-1	1.595535495568768	1.2977154802442064	-0.013856919852786337	0.012220542506178758	0.015025103453374768	True
383	qkv_head_3_7_5_6	7		cal-zh-2	1.5833244345648008	1.3156281586143752	-0.0243321886049737	0.013867074864937028	0.01668866565817382	True
384	qkv_head_3_7_5_6	7		cal-en-1	1.5927462626122602	1.2990257611698264	-0.013660744086584894	0.012214157137154152	0.014975879395680316	True
385	qkv_head_3_7_5_6	7		cal-en-2	1.6247822870641073	1.279316113490455	-0.01059674455364825	0.012492722091728189	0.01586625335037326	True
386	qkv_head_3_7_5_7	3		cal-zh-1	2.086834928711865	1.1347229488494743	0.007421802764231894	0.010120556800467573	0.018612412351968546	True
387	qkv_head_3_7_5_7	3		cal-zh-2	2.5104983646588153	1.0860872167051308	0.008752569916088516	0.009979737537888988	0.02306823465301554	True
388	qkv_head_3_7_5_7	3		cal-en-1	2.2260720238893246	1.1183870102734406	0.0016123070598987256	0.011954428181041804	0.023794462820973694	True
389	qkv_head_3_7_5_7	3		cal-en-2	2.386786036154507	1.0985320901547897	0.005499809339699268	0.01113146149702431	0.024185380746907	True
390	qkv_head_3_7_5_7	7		cal-zh-1	1.3023698846207943	1.5424328010302824	0.009935292145136797	0.012220542506178758	0.010318547766323774	True
391	qkv_head_3_7_5_7	7		cal-zh-2	1.2614737534426907	1.598241585822671	0.020056261611566557	0.013867074864937028	0.010945123149288267	True
392	qkv_head_3_7_5_7	7		cal-en-1	1.3095325957553985	1.5121570085206069	0.020257249242219163	0.012214157137154152	0.010577497449441496	True
393	qkv_head_3_7_5_7	7		cal-en-2	1.2456431087734225	1.6383649981243933	0.017377401124379813	0.012492722091728189	0.009498172386005286	True
394	qkv_head_3_7_6_0	3		cal-zh-1	2.4758364901552334	1.080471931483944	0.026387441048850588	0.010561068410279402	0.024200053498181984	True
395	qkv_head_3_7_6_0	3		cal-zh-2	2.67360493069324	1.059925260218255	0.04253287534798066	0.010071504051652823	0.025404831739222065	True
396	qkv_head_3_7_6_0	3		cal-en-1	2.4654618517748697	1.064982503254307	0.060656301300930505	0.011032274592116392	0.025539999072335107	True
397	qkv_head_3_7_6_0	3		cal-en-2	2.4025306040175165	1.0768723093783243	0.04601597425269591	0.01095366100030517	0.024437907400979366	True
398	qkv_head_3_7_6_0	7		cal-zh-1	2.2110107081917247	1.1280212147527846	-0.01190222892699554	0.01285419075673373	0.025195229519248016	True
399	qkv_head_3_7_6_0	7		cal-zh-2	2.3444334444103614	1.1133152880307844	-0.014702436575518054	0.013133236613281586	0.02765613611934937	True
400	qkv_head_3_7_6_0	7		cal-en-1	2.3739534837295366	1.1086877388618266	-0.01186160658701794	0.012926415041478722	0.02767840478812828	True
401	qkv_head_3_7_6_0	7		cal-en-2	2.378441078112184	1.0957191595675244	0.01262559213850152	0.012008549356944072	0.026066558049752983	True
402	qkv_head_3_7_6_1	3		cal-zh-1	3.085056588479189	1.0511084279641274	0.016515693809057836	0.010561068410279402	0.030997271845320855	True
403	qkv_head_3_7_6_1	3		cal-zh-2	3.610053858998883	1.0418971903288374	-0.003905091083065157	0.010071504051652823	0.03489660247199327	True
404	qkv_head_3_7_6_1	3		cal-en-1	3.2986653742414083	1.0465811141620736	0.008400986630174983	0.011032274592116392	0.034772060859586625	True
405	qkv_head_3_7_6_1	3		cal-en-2	3.8603327843982673	1.0323688848377452	0.01071925786845301	0.01095366100030517	0.04095898015689281	True
406	qkv_head_3_7_6_1	7		cal-zh-1	1.718932925476906	1.2085838509974562	0.023948480514440994	0.01285419075673373	0.0182821338410859	True
407	qkv_head_3_7_6_1	7		cal-zh-2	1.7691760742113543	1.2089762407145874	0.0039153994081589025	0.013133236613281586	0.01921874658135619	True
408	qkv_head_3_7_6_1	7		cal-en-1	2.062309699674343	1.1360283679449181	0.011689135538536545	0.012926415041478722	0.02346620196666643	True
409	qkv_head_3_7_6_1	7		cal-en-2	1.9517476371452316	1.1568774092334553	0.010944496875529132	0.012008549356944072	0.020259413526353864	True
410	qkv_head_3_7_6_2	3		cal-zh-1	2.573308293164849	1.074808786673004	0.02303126402647773	0.010561068410279402	0.025285320758288047	True
411	qkv_head_3_7_6_2	3		cal-zh-2	3.0544858422679746	1.0527120673215085	0.015345093287843569	0.010071504051652823	0.029222868713181277	True
412	qkv_head_3_7_6_2	3		cal-en-1	2.9074386668928103	1.0702316119988717	-0.013443616943708882	0.011032274592116392	0.02997076648949902	True
413	qkv_head_3_7_6_2	3		cal-en-2	3.100665952829256	1.061788565609566	-0.014791798685701765	0.01095366100030517	0.031987200486550335	True
414	qkv_head_3_7_6_2	7		cal-zh-1	1.8354606894653243	1.1818906797464104	0.013796713249309074	0.01285419075673373	0.019962389274391725	True
415	qkv_head_3_7_6_2	7		cal-zh-2	1.899342458400076	1.1624826047236383	0.018979809143810766	0.013133236613281586	0.021457967469328536	True
416	qkv_head_3_7_6_2	7		cal-en-1	2.079908943795058	1.1316355562816465	0.014173789517011988	0.012926415041478722	0.023758325820302448	True
417	qkv_head_3_7_6_2	7		cal-en-2	1.9738472150060327	1.1676079804242336	-0.011317748925663477	0.012008549356944072	0.02030051361575516	True
418	qkv_head_3_7_6_3	3		cal-zh-1	3.307203658588972	1.0593846311079445	-0.030729275526334577	0.010561068410279402	0.03296971001793358	True
419	qkv_head_3_7_6_3	3		cal-zh-2	3.7885994422346494	1.0413827792111503	-0.016231254728831544	0.010071504051652823	0.03664060458293715	True
420	qkv_head_3_7_6_3	3		cal-en-1	3.52876779393754	1.0416073721599663	0.003697661428259824	0.011032274592116392	0.03737524936464923	True
421	qkv_head_3_7_6_3	3		cal-en-2	3.77666665456697	1.035748476048401	0.004444522385677067	0.01095366100030517	0.039940513746264075	True
422	qkv_head_3_7_6_3	7		cal-zh-1	2.059717265555643	1.1791522428330556	-0.05472980010287848	0.01285419075673373	0.022453418375203555	True
423	qkv_head_3_7_6_3	7		cal-zh-2	2.1807427224809586	1.147782425245197	-0.03836501238024219	0.013133236613281586	0.024952647415659793	True
424	qkv_head_3_7_6_3	7		cal-en-1	2.251607506662583	1.126512577722731	-0.01870390423140449	0.012926415041478722	0.02583656296183254	True
425	qkv_head_3_7_6_3	7		cal-en-2	2.035419938710496	1.153780039606812	-0.00872204841858165	0.012008549356944072	0.021184662550101513	True
426	qkv_head_3_7_6_4	3		cal-zh-1	2.044167568015667	1.14404324724362	0.003919139007233924	0.010561068410279402	0.018870434819576988	True
427	qkv_head_3_7_6_4	3		cal-zh-2	2.413760922225375	1.0901543397740556	0.017207746677695878	0.010071504051652823	0.022299780885110847	True
428	qkv_head_3_7_6_4	3		cal-en-1	2.133508600212464	1.1388354790636859	-0.011258765455285369	0.011032274592116392	0.020668000914001658	True
429	qkv_head_3_7_6_4	3		cal-en-2	2.26657877298161	1.1291466964246428	-0.026894963079262802	0.01095366100030517	0.021987697071020156	True
430	qkv_head_3_7_6_4	7		cal-zh-1	1.455006085175422	1.3432185607292495	0.026001428992414886	0.01285419075673373	0.013923963171636937	True
431	qkv_head_3_7_6_4	7		cal-zh-2	1.607611584198149	1.2442533415385748	0.03286470456925709	0.013133236613281586	0.016968524505965477	True
432	qkv_head_3_7_6_4	7		cal-en-1	1.5556525275636206	1.2811139443385626	0.022425269486988027	0.012926415041478722	0.015696504062326037	True
433	qkv_head_3_7_6_4	7		cal-en-2	1.5150193543902761	1.31574407072208	0.013271774399359282	0.012008549356944072	0.013827297495581158	True
434	qkv_head_3_7_6_5	3		cal-zh-1	2.0700002568489544	1.1289023647521335	0.021087482371782488	0.010561068410279402	0.019365194904767277	True
435	qkv_head_3_7_6_5	3		cal-zh-2	2.371140850259437	1.0918860608940397	0.0215375490901208	0.010071504051652823	0.02187128816432883	True
436	qkv_head_3_7_6_5	3		cal-en-1	2.4805670305894667	1.0884656600206541	0.008871316620242844	0.011032274592116392	0.025142085442635357	True
437	qkv_head_3_7_6_5	3		cal-en-2	2.392137286301863	1.1012301954110337	-0.0008494011070127685	0.01095366100030517	0.023793990583921856	True
438	qkv_head_3_7_6_5	7		cal-zh-1	1.4289879439160222	1.3155088011629608	0.06350204292099391	0.01285419075673373	0.013963026019993798	True
439	qkv_head_3_7_6_5	7		cal-zh-2	1.4243050482721606	1.3497639890326787	0.04020727611579273	0.013133236613281586	0.01385852294211478	True
440	qkv_head_3_7_6_5	7		cal-en-1	1.4290015907272329	1.3518422323994896	0.03564859956559891	0.012926415041478722	0.013664218511568745	True
441	qkv_head_3_7_6_5	7		cal-en-2	1.4553499384434185	1.33559435142108	0.03181051412288357	0.012008549356944072	0.013085291614799106	True
442	qkv_head_3_7_6_6	3		cal-zh-1	2.6975794875243277	1.056340507829689	0.04786418986992754	0.010561068410279402	0.02696982772008222	True
443	qkv_head_3_7_6_6	3		cal-zh-2	3.4250151589798623	1.0309716135611124	0.04602125115897293	0.010071504051652823	0.033458781596796376	True
444	qkv_head_3_7_6_6	3		cal-en-1	3.8838494831082637	1.0291275715786974	0.020961910324683516	0.011032274592116392	0.04163496844844091	True
445	qkv_head_3_7_6_6	3		cal-en-2	3.5145019066310956	1.0405650084211195	0.008251827220278202	0.01095366100030517	0.0369959225599709	True
446	qkv_head_3_7_6_6	7		cal-zh-1	1.515144526558623	1.2962277982872117	0.030214691174925135	0.01285419075673373	0.015025103453374768	True
447	qkv_head_3_7_6_6	7		cal-zh-2	1.5947425910778776	1.254991394452525	0.028143588161957004	0.013133236613281586	0.01668866565817382	True
448	qkv_head_3_7_6_6	7		cal-en-1	1.5184236359895005	1.310625814284601	0.0158061580935726	0.012926415041478722	0.014975879395680316	True
449	qkv_head_3_7_6_6	7		cal-en-2	1.653351339058632	1.2513572499450902	0.004587169410451369	0.012008549356944072	0.01586625335037326	True
450	qkv_head_3_7_6_7	3		cal-zh-1	2.046756528354859	1.1613720621687937	-0.023632194618830732	0.010561068410279402	0.018612412351968546	True
451	qkv_head_3_7_6_7	3		cal-zh-2	2.5325553318376586	1.1057040848292063	-0.036607352998498585	0.010071504051652823	0.02306823465301554	True
452	qkv_head_3_7_6_7	3		cal-en-1	2.4253349598452827	1.1245036904673362	-0.05342224567922057	0.011032274592116392	0.023794462820973694	True
453	qkv_head_3_7_6_7	3		cal-en-2	2.453958753373833	1.111408274878039	-0.03323674160627015	0.01095366100030517	0.024185380746907	True
454	qkv_head_3_7_6_7	7		cal-zh-1	1.2789375425376297	1.5932190759808813	0.005423380291648742	0.01285419075673373	0.010318547766323774	True
455	qkv_head_3_7_6_7	7		cal-zh-2	1.292061667246312	1.5503664384078093	0.015069427514428907	0.013133236613281586	0.010945123149288267	True
456	qkv_head_3_7_6_7	7		cal-en-1	1.2930768242494177	1.5802270613308231	-0.001501055042864336	0.012926415041478722	0.010577497449441496	True
457	qkv_head_3_7_6_7	7		cal-en-2	1.2866781090862018	1.6267484892385191	-0.018924880437852648	0.012008549356944072	0.009498172386005286	True
458	qkv_head_3_7_7_0	3		cal-zh-1	2.1340064675886627	1.1646513881023046	-0.05365097751591142	0.013207376044485524	0.024200053498181984	True
459	qkv_head_3_7_7_0	3		cal-zh-2	2.1655565436281723	1.1682620201284495	-0.06840332563227407	0.013705252876455444	0.025404831739222065	True
460	qkv_head_3_7_7_0	3		cal-en-1	1.9167891051477925	1.1767658307074558	-0.006412196995420389	0.015679658311865633	0.025539999072335107	True
461	qkv_head_3_7_7_0	3		cal-en-2	2.0587195352219787	1.1554177652449924	-0.017826592003081315	0.013715317639641058	0.024437907400979366	True
462	qkv_head_3_7_7_0	7		cal-zh-1	1.9743973804417885	1.2130192310190593	-0.07646781337056903	0.015479304338394307	0.025195229519248016	True
463	qkv_head_3_7_7_0	7		cal-zh-2	1.9448567437492368	1.2314359217840605	-0.09122510789326256	0.01751119180606734	0.02765613611934937	True
464	qkv_head_3_7_7_0	7		cal-en-1	2.1273446472316633	1.1776896191071895	-0.07269220708423425	0.015322655891626997	0.02767840478812828	True
465	qkv_head_3_7_7_0	7		cal-en-2	2.093745576860493	1.1854902105369791	-0.07488306108443886	0.014759027902861113	0.026066558049752983	True
466	qkv_head_3_7_7_1	3		cal-zh-1	2.5801598007537225	1.0993593537349746	-0.03173710979117171	0.013207376044485524	0.030997271845320855	True
467	qkv_head_3_7_7_1	3		cal-zh-2	2.7594558044291424	1.0837456062221629	-0.025794115172610307	0.013705252876455444	0.03489660247199327	True
468	qkv_head_3_7_7_1	3		cal-en-1	2.4611941602304457	1.1098187026476762	-0.03144907093628939	0.015679658311865633	0.034772060859586625	True
469	qkv_head_3_7_7_1	3		cal-en-2	3.1886356828751197	1.0677304722970837	-0.04169046450390342	0.013715317639641058	0.04095898015689281	True
470	qkv_head_3_7_7_1	7		cal-zh-1	1.5145092192461798	1.2823201783661755	0.04283699251998242	0.015479304338394307	0.0182821338410859	True
471	qkv_head_3_7_7_1	7		cal-zh-2	1.4508213545931052	1.3219182067400739	0.045398319359943	0.01751119180606734	0.01921874658135619	True
472	qkv_head_3_7_7_1	7		cal-en-1	1.801238085280033	1.1761490589250136	0.032956730582324546	0.015322655891626997	0.02346620196666643	True
473	qkv_head_3_7_7_1	7		cal-en-2	1.6666798078104028	1.214179954252407	0.038766206516959834	0.014759027902861113	0.020259413526353864	True
474	qkv_head_3_7_7_2	3		cal-zh-1	2.1770396059358057	1.1371412296562655	-0.01939147673958165	0.013207376044485524	0.025285320758288047	True
475	qkv_head_3_7_7_2	3		cal-zh-2	2.3631108503214384	1.1082769490095428	-0.008876022960101778	0.013705252876455444	0.029222868713181277	True
476	qkv_head_3_7_7_2	3		cal-en-1	2.215336206061663	1.1589865333982075	-0.06646858868047212	0.015679658311865633	0.02997076648949902	True
477	qkv_head_3_7_7_2	3		cal-en-2	2.607553238914232	1.1180541088308429	-0.07719294234881621	0.013715317639641058	0.031987200486550335	True
478	qkv_head_3_7_7_2	7		cal-zh-1	1.546598873099603	1.199269001173003	0.10512666416562644	0.015479304338394307	0.019962389274391725	True
479	qkv_head_3_7_7_2	7		cal-zh-2	1.491689441582715	1.217322188785003	0.11279434744116339	0.01751119180606734	0.021457967469328536	True
480	qkv_head_3_7_7_2	7		cal-en-1	1.7613509926071553	1.1359628354381883	0.09732242780255708	0.015322655891626997	0.023758325820302448	True
481	qkv_head_3_7_7_2	7		cal-en-2	1.6080666550318494	1.1691083822064539	0.11124362442179854	0.014759027902861113	0.02030051361575516	True
482	qkv_head_3_7_7_3	3		cal-zh-1	2.6989604214013463	1.0811798221834912	-0.010579975022441498	0.013207376044485524	0.03296971001793358	True
483	qkv_head_3_7_7_3	3		cal-zh-2	2.8956971459022878	1.0831224563554909	-0.044438749012295935	0.013705252876455444	0.03664060458293715	True
484	qkv_head_3_7_7_3	3		cal-en-1	2.574888151647103	1.0802166432442408	0.010880168123199207	0.015679658311865633	0.03737524936464923	True
485	qkv_head_3_7_7_3	3		cal-en-2	3.045938763065934	1.0459559411714447	0.034792941111718066	0.013715317639641058	0.039940513746264075	True
486	qkv_head_3_7_7_3	7		cal-zh-1	1.857799821019001	1.2807603879650633	-0.11972783732792515	0.015479304338394307	0.022453418375203555	True
487	qkv_head_3_7_7_3	7		cal-zh-2	1.8454180833960656	1.2950718006961104	-0.13160887348270106	0.01751119180606734	0.024952647415659793	True
488	qkv_head_3_7_7_3	7		cal-en-1	2.0490497123208344	1.215211314798759	-0.10540003193757753	0.015322655891626997	0.02583656296183254	True
489	qkv_head_3_7_7_3	7		cal-en-2	1.8358403058454582	1.2790016473045196	-0.10799420647004863	0.014759027902861113	0.021184662550101513	True
490	qkv_head_3_7_7_4	3		cal-zh-1	1.7755895276273364	1.2427312256575942	-0.03895136606366264	0.013207376044485524	0.018870434819576988	True
491	qkv_head_3_7_7_4	3		cal-zh-2	1.9521740185142364	1.1997893037795573	-0.050254384378764186	0.013705252876455444	0.022299780885110847	True
492	qkv_head_3_7_7_4	3		cal-en-1	1.6932853742427179	1.2846010701798836	-0.049205505422247234	0.015679658311865633	0.020668000914001658	True
493	qkv_head_3_7_7_4	3		cal-en-2	1.9446473144651153	1.2130172399963186	-0.06598470536051713	0.013715317639641058	0.021987697071020156	True
494	qkv_head_3_7_7_4	7		cal-zh-1	1.3563575762078228	1.5078660762745653	-0.01699092557593704	0.015479304338394307	0.013923963171636937	True
495	qkv_head_3_7_7_4	7		cal-zh-2	1.4251431526947906	1.470720397001427	-0.047498013017259526	0.01751119180606734	0.016968524505965477	True
496	qkv_head_3_7_7_4	7		cal-en-1	1.4557999577065477	1.4211267496513473	-0.03414757924005998	0.015322655891626997	0.015696504062326037	True
497	qkv_head_3_7_7_4	7		cal-en-2	1.4050373688244495	1.499713572928449	-0.05144986505899693	0.014759027902861113	0.013827297495581158	True
498	qkv_head_3_7_7_5	3		cal-zh-1	1.768705646643041	1.2062858495407593	0.007346236556641512	0.013207376044485524	0.019365194904767277	True
499	qkv_head_3_7_7_5	3		cal-zh-2	1.8568156854750029	1.1635404519020842	0.03099226412214453	0.013705252876455444	0.02187128816432883	True
500	qkv_head_3_7_7_5	3		cal-en-1	1.8735302343225788	1.1684119830931734	0.01903550363253868	0.015679658311865633	0.025142085442635357	True
501	qkv_head_3_7_7_5	3		cal-en-2	1.9729194405781805	1.137229028880814	0.0338030385066452	0.013715317639641058	0.023793990583921856	True
502	qkv_head_3_7_7_5	7		cal-zh-1	1.3557843966693708	1.5030122598955682	-0.013561690634106746	0.015479304338394307	0.013963026019993798	True
503	qkv_head_3_7_7_5	7		cal-zh-2	1.2740419739802402	1.609839191992865	0.0019875868753362496	0.01751119180606734	0.01385852294211478	True
504	qkv_head_3_7_7_5	7		cal-en-1	1.3438755996167264	1.5069828806270258	-0.006030516621876206	0.015322655891626997	0.013664218511568745	True
505	qkv_head_3_7_7_5	7		cal-en-2	1.3299544865008048	1.5000686231249925	0.009741255671247387	0.014759027902861113	0.013085291614799106	True
506	qkv_head_3_7_7_6	3		cal-zh-1	2.203614795892609	1.079130707419186	0.07687431389531524	0.013207376044485524	0.02696982772008222	True
507	qkv_head_3_7_7_6	3		cal-zh-2	2.5731908122644587	1.0540201734313264	0.06936588601867759	0.013705252876455444	0.033458781596796376	True
508	qkv_head_3_7_7_6	3		cal-en-1	2.781043879075276	1.0473363953236905	0.0596295232768491	0.015679658311865633	0.04163496844844091	True
509	qkv_head_3_7_7_6	3		cal-en-2	2.8216393292050674	1.0460525643553966	0.05827922313411468	0.013715317639641058	0.0369959225599709	True
510	qkv_head_3_7_7_6	7		cal-zh-1	1.3346291925912488	1.374974323147518	0.08290306812697672	0.015479304338394307	0.015025103453374768	True
511	qkv_head_3_7_7_6	7		cal-zh-2	1.3117801311932742	1.3764332005454785	0.09836866741992802	0.01751119180606734	0.01668866565817382	True
512	qkv_head_3_7_7_6	7		cal-en-1	1.34534338472719	1.376495709907861	0.07433232640572411	0.015322655891626997	0.014975879395680316	True
513	qkv_head_3_7_7_6	7		cal-en-2	1.417717016838668	1.3187817279742777	0.06778799176712481	0.014759027902861113	0.01586625335037326	True
514	qkv_head_3_7_7_7	3		cal-zh-1	1.6753657076914377	1.188840247845473	0.0635510126139728	0.013207376044485524	0.018612412351968546	True
515	qkv_head_3_7_7_7	3		cal-zh-2	1.9305473375431947	1.146972876294135	0.031499964397843076	0.013705252876455444	0.02306823465301554	True
516	qkv_head_3_7_7_7	3		cal-en-1	1.7649240058875533	1.163018705945871	0.06192996279316959	0.015679658311865633	0.023794462820973694	True
517	qkv_head_3_7_7_7	3		cal-en-2	1.9956575923854303	1.13171994544795	0.03597520141709432	0.013715317639641058	0.024185380746907	True
518	qkv_head_3_7_7_7	7		cal-zh-1	1.113697441522322	1.6707061912799588	0.15304264535051373	0.015479304338394307	0.010318547766323774	True
519	qkv_head_3_7_7_7	7		cal-zh-2	1.0879406635721893	1.7406051419961988	0.16563446101963913	0.01751119180606734	0.010945123149288267	True
520	qkv_head_3_7_7_7	7		cal-en-1	1.1161825707808943	1.6169118949029186	0.16707871049184547	0.015322655891626997	0.010577497449441496	True
521	qkv_head_3_7_7_7	7		cal-en-2	1.1175042830735962	1.7364684725823034	0.12845993190480548	0.014759027902861113	0.009498172386005286	True
522	full_attention_3_11	3		cal-zh-1	1.944247067834643	1.1592304645917537	0.009796725436921531	0.029520958454847816	0.04951218818746223	True
523	full_attention_3_11	3		cal-zh-2	1.9971022487035197	1.1605286185804455	-0.007866193984715065	0.02722234371521061	0.0468457244209344	True
524	full_attention_3_11	3		cal-en-1	1.8791559980932486	1.1749427290933638	0.008354606624540486	0.03214367677215693	0.05140929979947095	True
525	full_attention_3_11	3		cal-en-2	2.1107359543482542	1.1240865994740041	0.018820500985346787	0.02765954667582663	0.051937279278091025	True
526	full_attention_3_11	11		cal-zh-1	1.1391141076133209	1.798020166910252	0.0819125700767264	0.0369122525635365	0.023385314810548053	True
527	full_attention_3_11	11		cal-zh-2	1.2461435900749864	1.5462889626107967	0.05992719542348106	0.034807404464501854	0.028051046737959547	True
528	full_attention_3_11	11		cal-en-1	1.2280608307226124	1.5677298805394233	0.06732955298940975	0.03404833936730342	0.026671324216738745	True
529	full_attention_3_11	11		cal-en-2	1.2212142438810665	1.5960242462500651	0.06149425515970997	0.03398674408594861	0.02600530416653709	True
530	qkv_head_3_11_0_0	3		cal-zh-1	2.5141236256721653	1.0828650826744313	0.014994540783107552	0.014857293594532826	0.034494669222604434	True
531	qkv_head_3_11_0_0	3		cal-zh-2	2.4751092617870545	1.0862506549315172	0.014430473751580686	0.013816240818171524	0.0314814131129731	True
532	qkv_head_3_11_0_0	3		cal-en-1	2.0234242815146555	1.1525875483254913	-0.0035010192445480057	0.01830340678414811	0.03213253325119777	True
533	qkv_head_3_11_0_0	3		cal-en-2	2.593005535601422	1.0892514210750806	-0.011911497983668182	0.013985067666189349	0.033291999599502804	True
534	qkv_head_3_11_0_0	11		cal-zh-1	1.2679398706851175	1.7396889584702937	-0.052465060888656476	0.018305654536565408	0.0133417351032153	True
535	qkv_head_3_11_0_0	11		cal-zh-2	1.4575695906538082	1.4004814224674207	-0.019851286243691275	0.016526727564439302	0.01720041061916134	True
536	qkv_head_3_11_0_0	11		cal-en-1	1.4492512043333938	1.4499161419316395	-0.05064625223128459	0.017127458272020724	0.017119603548124567	True
537	qkv_head_3_11_0_0	11		cal-en-2	1.3402616601762352	1.5825483977430799	-0.04667617295218165	0.01763641078716831	0.014936292144284677	True
538	qkv_head_3_11_0_1	3		cal-zh-1	1.2328637518454322	1.7934103459103423	-0.0344596424937831	0.014857293594532826	0.01021351235370902	True
539	qkv_head_3_11_0_1	3		cal-zh-2	1.264228355698784	1.6468416149055816	-0.0058348632079729115	0.013816240818171524	0.010606292222277146	True
540	qkv_head_3_11_0_1	3		cal-en-1	1.1603864654561433	2.119870849629508	-0.04280887876032748	0.01830340678414811	0.010019018615108363	True
541	qkv_head_3_11_0_1	3		cal-en-2	1.3199533597398136	1.6107843454606543	-0.04318916148725199	0.013985067666189349	0.01146003008049855	True
542	qkv_head_3_11_0_1	11		cal-zh-1	1.1389132777168316	2.279553650407272	-0.047538150807107646	0.018305654536565408	0.00914589266423575	True
543	qkv_head_3_11_0_1	11		cal-zh-2	1.1404329055671447	2.1944767950498956	-0.0293606686463468	0.016526727564439302	0.008588664039804348	True
544	qkv_head_3_11_0_1	11		cal-en-1	1.1401781382212668	2.2641396262258535	-0.04608210907726271	0.017127458272020724	0.008625065900907924	True
545	qkv_head_3_11_0_1	11		cal-en-2	1.1544616816958835	2.1945012855885433	-0.05325519749112579	0.01763641078716831	0.009277989760198864	True
546	qkv_head_3_11_0_2	3		cal-zh-1	1.6783115359240768	1.2602546855971961	-0.016234794911634674	0.014857293594532826	0.01978581592854727	True
547	qkv_head_3_11_0_2	3		cal-zh-2	1.7944967698652645	1.2154857999459587	-0.013741406402859197	0.013816240818171524	0.020397769781425455	True
548	qkv_head_3_11_0_2	3		cal-en-1	1.5705702002298951	1.3238399453958973	-0.024952427632048267	0.01830340678414811	0.0217146984859049	True
549	qkv_head_3_11_0_2	3		cal-en-2	1.890559004036372	1.1904503062299732	-0.016415402879389068	0.013985067666189349	0.022209743203900324	True
550	qkv_head_3_11_0_2	11		cal-zh-1	1.1847635583755227	1.996275776834331	-0.04333538431179082	0.018305654536565408	0.010864166493833143	True
551	qkv_head_3_11_0_2	11		cal-zh-2	1.4034312050719784	1.4604791373717294	-0.024047102383272775	0.016526727564439302	0.01588117528566506	True
552	qkv_head_3_11_0_2	11		cal-en-1	1.3182431491693078	1.5848613295631881	-0.027604006783058955	0.017127458272020724	0.014246138831589381	True
553	qkv_head_3_11_0_2	11		cal-en-2	1.2093438023253908	1.9374308378120613	-0.05838446275721833	0.01763641078716831	0.011008642819380795	True
554	qkv_head_3_11_0_3	3		cal-zh-1	1.9857605357775885	1.1559094464490292	0.0023301263230959633	0.014857293594532826	0.025523649260863968	True
555	qkv_head_3_11_0_3	3		cal-zh-2	1.9553372177624921	1.1564529455660002	0.010492109823944454	0.013816240818171524	0.023360578556110637	True
556	qkv_head_3_11_0_3	3		cal-en-1	1.7102127358056893	1.2336324212054448	-0.0010591808393614957	0.01830340678414811	0.025374429897274325	True
557	qkv_head_3_11_0_3	3		cal-en-2	2.396301591084907	1.0902706385419294	0.020129699871041663	0.013985067666189349	0.030737725767555655	True
558	qkv_head_3_11_0_3	11		cal-zh-1	1.1981686856545921	1.646255677201575	0.06464950424310996	0.018305654536565408	0.013323120059581117	True
559	qkv_head_3_11_0_3	11		cal-zh-2	1.4222913289821348	1.3364259391171953	0.05154591180594927	0.016526727564439302	0.01758857009830214	True
560	qkv_head_3_11_0_3	11		cal-en-1	1.4076799208433706	1.3322609286681968	0.06381800613930147	0.017127458272020724	0.01809703984091762	True
561	qkv_head_3_11_0_3	11		cal-en-2	1.261282558724887	1.5243184418051803	0.05669521270910784	0.01763641078716831	0.014593077610489127	True
562	qkv_head_3_11_0_4	3		cal-zh-1	2.756660636929366	1.061428701213613	0.028082761467582606	0.014857293594532826	0.03858621533082977	True
563	qkv_head_3_11_0_4	3		cal-zh-2	2.52451834636554	1.0683900260055164	0.044476785690482516	0.013816240818171524	0.032646648297237436	True
564	qkv_head_3_11_0_4	3		cal-en-1	2.143256440681332	1.1235184515798802	0.011925913001384193	0.01830340678414811	0.03491611056442602	True
565	qkv_head_3_11_0_4	3		cal-en-2	2.7588681413806095	1.0662371137578162	0.016174779131118717	0.013985067666189349	0.036186095139120765	True
566	qkv_head_3_11_0_4	11		cal-zh-1	1.2506740265629561	1.4113157714914695	0.1247620296391277	0.018305654536565408	0.016222029917459257	True
567	qkv_head_3_11_0_4	11		cal-zh-2	1.5102068785153637	1.2366357073326213	0.08624911224713493	0.016526727564439302	0.020182805250707894	True
568	qkv_head_3_11_0_4	11		cal-en-1	1.3778095713262297	1.2978229603149984	0.10771250887955572	0.017127458272020724	0.018183047042065834	True
569	qkv_head_3_11_0_4	11		cal-en-2	1.4393775770214803	1.2508286410312655	0.10966557089354685	0.01763641078716831	0.02029490962507893	True
570	qkv_head_3_11_0_5	3		cal-zh-1	1.8310099206194135	1.1814538121669247	0.015893670589496707	0.014857293594532826	0.023025743101416567	True
571	qkv_head_3_11_0_5	3		cal-zh-2	1.808695008247565	1.1998586746550366	0.00031430686176113064	0.013816240818171524	0.02082692431069652	True
572	qkv_head_3_11_0_5	3		cal-en-1	1.487511073157556	1.3358902805667978	0.012208583786609734	0.01830340678414811	0.02038080571734952	True
573	qkv_head_3_11_0_5	3		cal-en-2	1.7050275112865751	1.2399223690739736	-0.005889006654169981	0.013985067666189349	0.019230982287919828	True
574	qkv_head_3_11_0_5	11		cal-zh-1	1.141141300160794	2.10924516628729	-0.008781690249225373	0.018305654536565408	0.009903703349440483	True
575	qkv_head_3_11_0_5	11		cal-zh-2	1.3032875964468567	1.5795211996256693	-0.01075169998022293	0.016526727564439302	0.013636460877951279	True
576	qkv_head_3_11_0_5	11		cal-en-1	1.2200099108185134	1.7441855857013802	0.0005987675146830702	0.017127458272020724	0.011980186632830786	True
577	qkv_head_3_11_0_5	11		cal-en-2	1.1957892750344097	1.7709908157852916	0.01924993095369679	0.01763641078716831	0.011908266650183375	True
578	qkv_head_3_11_0_6	3		cal-zh-1	2.9817654994194296	1.0685057431819371	-0.01854654580799473	0.014857293594532826	0.04146067135118807	True
579	qkv_head_3_11_0_6	3		cal-zh-2	3.005267047354838	1.0775276635971442	-0.04533632119329348	0.013816240818171524	0.03853403921951965	True
580	qkv_head_3_11_0_6	3		cal-en-1	2.168357768474886	1.1180801983512652	0.01529733283809681	0.01830340678414811	0.03549685822939033	True
581	qkv_head_3_11_0_6	3		cal-en-2	2.7845419851640605	1.0723422638809248	-0.002092584938390849	0.013985067666189349	0.03631490559826411	True
582	qkv_head_3_11_0_6	11		cal-zh-1	1.9022722840333128	1.222868672022077	-0.06390053417146505	0.018305654536565408	0.028475943543812037	True
583	qkv_head_3_11_0_6	11		cal-zh-2	2.3206532295651727	1.1245375006139642	-0.03071616151657137	0.016526727564439302	0.03410540215477059	True
584	qkv_head_3_11_0_6	11		cal-en-1	2.246356183556942	1.132334499511983	-0.027861554514014147	0.017127458272020724	0.033977920671452694	True
585	qkv_head_3_11_0_6	11		cal-en-2	2.0284809439675806	1.200367207663704	-0.07664081303467245	0.01763641078716831	0.02980348261211247	True
586	qkv_head_3_11_0_7	3		cal-zh-1	2.3415104455660725	1.0997076728586654	0.011946041855582663	0.014857293594532826	0.03163432337796513	True
587	qkv_head_3_11_0_7	3		cal-zh-2	2.6184804780209467	1.0685680788231748	0.03025988158414618	0.013816240818171524	0.033856108542808995	True
588	qkv_head_3_11_0_7	3		cal-en-1	2.177584585870503	1.103360129835978	0.03881179057623812	0.01830340678414811	0.03612348806550003	True
589	qkv_head_3_11_0_7	3		cal-en-2	2.500612125480902	1.073781019183192	0.03654447232281368	0.013985067666189349	0.03256830690520684	True
590	qkv_head_3_11_0_7	11		cal-zh-1	1.2906128705283257	1.4683505451702408	0.060798898829150454	0.018305654536565408	0.016089831836169206	True
591	qkv_head_3_11_0_7	11		cal-zh-2	1.4667950770949838	1.3306699391844088	0.028836806978141047	0.016526727564439302	0.01821738202552879	True
592	qkv_head_3_11_0_7	11		cal-en-1	1.4930474165655534	1.2907270746902555	0.04706204296307783	0.017127458272020724	0.019812172400204414	True
593	qkv_head_3_11_0_7	11		cal-en-2	1.338207832895042	1.407179325417293	0.05971389786846834	0.01763641078716831	0.016771979685349925	True
594	qkv_head_3_11_1_0	3		cal-zh-1	3.445118016983783	1.0459886102110378	-0.0031458658524166415	0.010473090019549047	0.034494669222604434	True
595	qkv_head_3_11_1_0	3		cal-zh-2	2.804106132500234	1.070054751044307	0.0007907784852710404	0.012013395384963238	0.0314814131129731	True
596	qkv_head_3_11_1_0	3		cal-en-1	2.825970589458328	1.07297020364584	-0.009358655720846579	0.012200144925359209	0.03213253325119777	True
597	qkv_head_3_11_1_0	3		cal-en-2	3.6253492443744366	1.0383199062976713	0.006843223802887835	0.009535011270502469	0.033291999599502804	True
598	qkv_head_3_11_1_0	11		cal-zh-1	1.3924484348001016	1.3921049279971547	0.030782866402568863	0.013338443795144903	0.0133417351032153	True
599	qkv_head_3_11_1_0	11		cal-zh-2	1.5863926797666035	1.2628117423090293	0.024475184662423082	0.013691994913648697	0.01720041061916134	True
600	qkv_head_3_11_1_0	11		cal-en-1	1.539646104018388	1.2672395609298042	0.0434660483705694	0.014090665917963832	0.017119603548124567	True
601	qkv_head_3_11_1_0	11		cal-en-2	1.4707966087372133	1.299555933228715	0.051979492790505594	0.013197302034309135	0.014936292144284677	True
602	qkv_head_3_11_1_1	3		cal-zh-1	1.3792692906363013	1.414323588377292	0.02494841325183383	0.010473090019549047	0.01021351235370902	True
603	qkv_head_3_11_1_1	3		cal-zh-2	1.3272710651423845	1.5033559093427846	0.010089090661563258	0.012013395384963238	0.010606292222277146	True
604	qkv_head_3_11_1_1	3		cal-en-1	1.2854339543036273	1.5652711245423916	0.013433612947344353	0.012200144925359209	0.010019018615108363	True
605	qkv_head_3_11_1_1	3		cal-en-2	1.5614685002297626	1.299178068787204	0.0026435588548585254	0.009535011270502469	0.01146003008049855	True
606	qkv_head_3_11_1_1	11		cal-zh-1	1.2001554502996672	1.7503164105410602	0.02171772174236032	0.013338443795144903	0.00914589266423575	True
607	qkv_head_3_11_1_1	11		cal-zh-2	1.1740314115876378	1.8716335906751715	0.012056738710940734	0.013691994913648697	0.008588664039804348	True
608	qkv_head_3_11_1_1	11		cal-en-1	1.1751480562156797	1.919825176354498	-0.005139447980289634	0.014090665917963832	0.008625065900907924	True
609	qkv_head_3_11_1_1	11		cal-en-2	1.216840697245494	1.7308721635023547	0.00962860272136516	0.013197302034309135	0.009277989760198864	True
610	qkv_head_3_11_1_2	3		cal-zh-1	2.1066049564636993	1.1150747295106587	0.03475317968065729	0.010473090019549047	0.01978581592854727	True
611	qkv_head_3_11_1_2	3		cal-zh-2	1.9660426343022055	1.1579132308412852	0.005184165714595031	0.012013395384963238	0.020397769781425455	True
612	qkv_head_3_11_1_2	3		cal-en-1	2.04234487050872	1.1474671602713726	-0.0009066971580031218	0.012200144925359209	0.0217146984859049	True
613	qkv_head_3_11_1_2	3		cal-en-2	2.510583956209678	1.0778353490281711	0.026301914833471322	0.009535011270502469	0.022209743203900324	True
614	qkv_head_3_11_1_2	11		cal-zh-1	1.2783739448983036	1.5695193020912088	0.017907174639467675	0.013338443795144903	0.010864166493833143	True
615	qkv_head_3_11_1_2	11		cal-zh-2	1.5394919690224937	1.327276843829401	-0.010645966754791247	0.013691994913648697	0.01588117528566506	True
616	qkv_head_3_11_1_2	11		cal-en-1	1.4150028984190264	1.3995604949715754	0.009869129078194155	0.014090665917963832	0.014246138831589381	True
617	qkv_head_3_11_1_2	11		cal-en-2	1.2822743652483606	1.5372069351948043	0.03092517512147363	0.013197302034309135	0.011008642819380795	True
618	qkv_head_3_11_1_3	3		cal-zh-1	2.6523553086266127	1.0883379420852857	-0.01963022896926612	0.010473090019549047	0.025523649260863968	True
619	qkv_head_3_11_1_3	3		cal-zh-2	2.197698177493375	1.130186783671711	-0.012502944409718978	0.012013395384963238	0.023360578556110637	True
620	qkv_head_3_11_1_3	3		cal-en-1	2.3034390782435	1.1075043141885614	0.004791285319459562	0.012200144925359209	0.025374429897274325	True
621	qkv_head_3_11_1_3	3		cal-en-2	3.3906397254021297	1.0517950560300562	-0.016191515715938083	0.009535011270502469	0.030737725767555655	True
622	qkv_head_3_11_1_3	11		cal-zh-1	1.4539970014685228	1.455669332383609	-0.058268761532233794	0.013338443795144903	0.013323120059581117	True
623	qkv_head_3_11_1_3	11		cal-zh-2	1.6538460345715373	1.2874526676558815	-0.0331004228813878	0.013691994913648697	0.01758857009830214	True
624	qkv_head_3_11_1_3	11		cal-en-1	1.6603038898458664	1.2927411134509434	-0.04169885667792134	0.014090665917963832	0.01809703984091762	True
625	qkv_head_3_11_1_3	11		cal-en-2	1.5430435948655736	1.3954570048274113	-0.07156760933838929	0.013197302034309135	0.014593077610489127	True
626	qkv_head_3_11_1_4	3		cal-zh-1	3.8077487370404164	1.0335010820039112	0.010214047025657766	0.010473090019549047	0.03858621533082977	True
627	qkv_head_3_11_1_4	3		cal-zh-2	2.9182383492686133	1.0738606547947802	-0.02413916767371619	0.012013395384963238	0.032646648297237436	True
628	qkv_head_3_11_1_4	3		cal-en-1	3.031353826854602	1.0591946070118177	0.00028085494389212584	0.012200144925359209	0.03491611056442602	True
629	qkv_head_3_11_1_4	3		cal-en-2	3.927830317537106	1.0349805968936494	-0.0033262839900585523	0.009535011270502469	0.036186095139120765	True
630	qkv_head_3_11_1_4	11		cal-zh-1	1.6138385065140637	1.3269667435646004	-0.05154067269120515	0.013338443795144903	0.016222029917459257	True
631	qkv_head_3_11_1_4	11		cal-zh-2	1.8226224751014162	1.236465265784354	-0.050575803658213	0.013691994913648697	0.020182805250707894	True
632	qkv_head_3_11_1_4	11		cal-en-1	1.6731142091056925	1.2965535044025343	-0.05195789084428368	0.014090665917963832	0.018183047042065834	True
633	qkv_head_3_11_1_4	11		cal-en-2	1.8710789777288102	1.2167186183780527	-0.04424634919184742	0.013197302034309135	0.02029490962507893	True
634	qkv_head_3_11_1_5	3		cal-zh-1	2.4317972528635092	1.1060851077142768	-0.018184782006645975	0.010473090019549047	0.023025743101416567	True
635	qkv_head_3_11_1_5	3		cal-zh-2	2.0173603867752754	1.1636546807752444	-0.018524318365096423	0.012013395384963238	0.02082692431069652	True
636	qkv_head_3_11_1_5	3		cal-en-1	1.9633753788096164	1.1752952506665892	-0.01919910375744593	0.012200144925359209	0.02038080571734952	True
637	qkv_head_3_11_1_5	3		cal-en-2	2.256207773022432	1.1186618666836274	-0.0056187938403252456	0.009535011270502469	0.019230982287919828	True
638	qkv_head_3_11_1_5	11		cal-zh-1	1.2237117579651458	1.6481118152633485	0.036246551487995944	0.013338443795144903	0.009903703349440483	True
639	qkv_head_3_11_1_5	11		cal-zh-2	1.4022332996518845	1.407943848365069	0.012875384750673883	0.013691994913648697	0.013636460877951279	True
640	qkv_head_3_11_1_5	11		cal-en-1	1.3011353288555947	1.530348716164541	0.01759741334841327	0.014090665917963832	0.011980186632830786	True
641	qkv_head_3_11_1_5	11		cal-en-2	1.3385038319536864	1.483392996083182	0.012522867699408318	0.013197302034309135	0.011908266650183375	True
642	qkv_head_3_11_1_6	3		cal-zh-1	4.083690176453382	1.0315523949835619	-0.0005781153134961344	0.010473090019549047	0.04146067135118807	True
643	qkv_head_3_11_1_6	3		cal-zh-2	3.326877487721496	1.0371893387466615	0.034374051989699	0.012013395384963238	0.03853403921951965	True
644	qkv_head_3_11_1_6	3		cal-en-1	3.063311127608479	1.0528492258885433	0.014017851381122427	0.012200144925359209	0.03549685822939033	True
645	qkv_head_3_11_1_6	3		cal-en-2	3.939984134104527	1.0345006411384794	-0.0023829741078153716	0.009535011270502469	0.03631490559826411	True
646	qkv_head_3_11_1_6	11		cal-zh-1	2.299903739603323	1.0773000978086569	0.06280096369310996	0.013338443795144903	0.028475943543812037	True
647	qkv_head_3_11_1_6	11		cal-zh-2	2.627796941025522	1.0549584545975006	0.06007272798216732	0.013691994913648697	0.03410540215477059	True
648	qkv_head_3_11_1_6	11		cal-en-1	2.5519739228471066	1.0583052543414155	0.06265558112196565	0.014090665917963832	0.033977920671452694	True
649	qkv_head_3_11_1_6	11		cal-en-2	2.4152107963038403	1.0694812673466554	0.05904460023170912	0.013197302034309135	0.02980348261211247	True
650	qkv_head_3_11_1_7	3		cal-zh-1	3.173860453091665	1.0507614099269507	0.008315554516785008	0.010473090019549047	0.03163432337796513	True
651	qkv_head_3_11_1_7	3		cal-zh-2	3.0034900186827453	1.0657489794966482	-0.013966540963368114	0.012013395384963238	0.033856108542808995	True
652	qkv_head_3_11_1_7	3		cal-en-1	3.1306624337556115	1.0573324296629638	-0.005755017954946432	0.012200144925359209	0.03612348806550003	True
653	qkv_head_3_11_1_7	3		cal-en-2	3.5684505233174133	1.0447339512334985	-0.009828496555721327	0.009535011270502469	0.03256830690520684	True
654	qkv_head_3_11_1_7	11		cal-zh-1	1.5802946579554957	1.3100616395208822	-0.01750501748433066	0.013338443795144903	0.016089831836169206	True
655	qkv_head_3_11_1_7	11		cal-zh-2	1.6740555507316803	1.2582027457986633	-0.01209916889165319	0.013691994913648697	0.01821738202552879	True
656	qkv_head_3_11_1_7	11		cal-en-1	1.739121125989616	1.2368847939633278	-0.016915254689008802	0.014090665917963832	0.019812172400204414	True
657	qkv_head_3_11_1_7	11		cal-en-2	1.6362112725956992	1.28747916235842	-0.024428777966406905	0.013197302034309135	0.016771979685349925	True
658	qkv_head_3_11_2_0	3		cal-zh-1	3.7362560144226347	1.034743250297019	0.010842891558994051	0.009553179977907358	0.034494669222604434	True
659	qkv_head_3_11_2_0	3		cal-zh-2	5.052033603654301	1.0152381934222217	0.02407204959169289	0.006326389624976942	0.0314814131129731	True
660	qkv_head_3_11_2_0	3		cal-en-1	3.2367444190339847	1.0406612533203503	0.0317184867077007	0.010331085188224187	0.03213253325119777	True
661	qkv_head_3_11_2_0	3		cal-en-2	4.034816922551591	1.0200376213920423	0.0463504057786619	0.00841651374392129	0.033291999599502804	True
662	qkv_head_3_11_2_0	11		cal-zh-1	1.3485316408391343	1.4635479462082126	0.016531000645863724	0.01447965210294539	0.0133417351032153	True
663	qkv_head_3_11_2_0	11		cal-zh-2	1.782054650275707	1.195482777807173	0.015543219152466566	0.0115388126078163	0.01720041061916134	True
664	qkv_head_3_11_2_0	11		cal-en-1	1.8035513203992608	1.178501456523177	0.029161402486575314	0.011186528205971876	0.017119603548124567	True
665	qkv_head_3_11_2_0	11		cal-en-2	1.446821674950414	1.3310684593099205	0.04056938121090722	0.013741311535837512	0.014936292144284677	True
666	qkv_head_3_11_2_1	3		cal-zh-1	1.4550037215138947	1.3609336278033188	0.0121527109552575	0.009553179977907358	0.01021351235370902	True
667	qkv_head_3_11_2_1	3		cal-zh-2	1.9673376562890665	1.1734680015163157	-0.017808419871568393	0.006326389624976942	0.010606292222277146	True
668	qkv_head_3_11_2_1	3		cal-en-1	1.3833772143545897	1.4264658444085505	0.01380025513201257	0.010331085188224187	0.010019018615108363	True
669	qkv_head_3_11_2_1	3		cal-en-2	1.690625859142201	1.2416351160816548	-0.001552304004199116	0.00841651374392129	0.01146003008049855	True
670	qkv_head_3_11_2_1	11		cal-zh-1	1.1558159627752407	1.8298720147307612	0.049914313842129895	0.01447965210294539	0.00914589266423575	True
671	qkv_head_3_11_2_1	11		cal-zh-2	1.243465247252233	1.6705872305493428	0.005252187247291672	0.0115388126078163	0.008588664039804348	True
672	qkv_head_3_11_2_1	11		cal-en-1	1.2356942329021814	1.6026693070092288	0.04379611667265101	0.011186528205971876	0.008625065900907924	True
673	qkv_head_3_11_2_1	11		cal-en-2	1.1854240998259868	1.755690863949551	0.037508440520412654	0.013741311535837512	0.009277989760198864	True
674	qkv_head_3_11_2_2	3		cal-zh-1	2.2592810268417165	1.090848027093466	0.04471050465179635	0.009553179977907358	0.01978581592854727	True
675	qkv_head_3_11_2_2	3		cal-zh-2	3.376256662162875	1.0471495338778076	-0.0005295407478060717	0.006326389624976942	0.020397769781425455	True
676	qkv_head_3_11_2_2	3		cal-en-1	2.3074643808667132	1.0978099052584467	0.02224354345178663	0.010331085188224187	0.0217146984859049	True
677	qkv_head_3_11_2_2	3		cal-en-2	2.8091277387084643	1.0645355961215388	0.013684383614111291	0.00841651374392129	0.022209743203900324	True
678	qkv_head_3_11_2_2	11		cal-zh-1	1.2263472404053075	1.6344632980869254	0.03933809001192638	0.01447965210294539	0.010864166493833143	True
679	qkv_head_3_11_2_2	11		cal-zh-2	1.7137825182606743	1.2451858866271126	-0.015539725331299924	0.0115388126078163	0.01588117528566506	True
680	qkv_head_3_11_2_2	11		cal-en-1	1.6152767082559685	1.2683674271998429	0.004988216618797038	0.011186528205971876	0.014246138831589381	True
681	qkv_head_3_11_2_2	11		cal-en-2	1.2652213258802327	1.579286446654246	0.025608648324871478	0.013741311535837512	0.011008642819380795	True
682	qkv_head_3_11_2_3	3		cal-zh-1	2.834813206445221	1.0610348264910743	0.0190978179342772	0.009553179977907358	0.025523649260863968	True
683	qkv_head_3_11_2_3	3		cal-zh-2	3.7997591432176376	1.029030884801237	0.026653044116415853	0.006326389624976942	0.023360578556110637	True
684	qkv_head_3_11_2_3	3		cal-en-1	2.634267178937621	1.0725300526681365	0.01896957187507555	0.010331085188224187	0.025374429897274325	True
685	qkv_head_3_11_2_3	3		cal-en-2	3.7851042966177597	1.0364261356084148	0.0014547094687460435	0.00841651374392129	0.030737725767555655	True
686	qkv_head_3_11_2_3	11		cal-zh-1	1.3630591427754217	1.4813813952636257	-0.006138487343539387	0.01447965210294539	0.013323120059581117	True
687	qkv_head_3_11_2_3	11		cal-zh-2	1.8122930282384544	1.1889374478095927	0.01281685924121306	0.0115388126078163	0.01758857009830214	True
688	qkv_head_3_11_2_3	11		cal-en-1	1.9108379841171	1.181167925487891	-0.010563093423661053	0.011186528205971876	0.01809703984091762	True
689	qkv_head_3_11_2_3	11		cal-en-2	1.4699826425079117	1.3841829655216802	-0.015553479031155693	0.013741311535837512	0.014593077610489127	True
690	qkv_head_3_11_2_4	3		cal-zh-1	4.1753151926474015	1.0337250533089222	-0.01472567324667713	0.009553179977907358	0.03858621533082977	True
691	qkv_head_3_11_2_4	3		cal-zh-2	5.274996213069966	1.0222084978010564	-0.018985274085617482	0.006326389624976942	0.032646648297237436	True
692	qkv_head_3_11_2_4	3		cal-en-1	3.52805380215796	1.0438913094709779	-0.0036539579110729816	0.010331085188224187	0.03491611056442602	True
693	qkv_head_3_11_2_4	3		cal-en-2	4.441469818781185	1.033040222474022	-0.028105548451813605	0.00841651374392129	0.036186095139120765	True
694	qkv_head_3_11_2_4	11		cal-zh-1	1.5154248718443586	1.352655928025416	-0.01846185526427398	0.01447965210294539	0.016222029917459257	True
695	qkv_head_3_11_2_4	11		cal-zh-2	2.0299468570702253	1.1605510778407497	-0.01750938578249413	0.0115388126078163	0.020182805250707894	True
696	qkv_head_3_11_2_4	11		cal-en-1	1.9258548449578905	1.184819546134848	-0.02056575292005701	0.011186528205971876	0.018183047042065834	True
697	qkv_head_3_11_2_4	11		cal-en-2	1.8118436761557646	1.2267661629558315	-0.034350076476334056	0.013741311535837512	0.02029490962507893	True
698	qkv_head_3_11_2_5	3		cal-zh-1	2.606690854796869	1.0814932996063722	0.0030212918958578174	0.009553179977907358	0.023025743101416567	True
699	qkv_head_3_11_2_5	3		cal-zh-2	3.4313402484389885	1.0423044240066301	0.00966505257935857	0.006326389624976942	0.02082692431069652	True
700	qkv_head_3_11_2_5	3		cal-en-1	2.2013232011473782	1.115856646359587	0.01165339965643728	0.010331085188224187	0.02038080571734952	True
701	qkv_head_3_11_2_5	3		cal-en-2	2.471836991575358	1.0818090153093998	0.0242545107112062	0.00841651374392129	0.019230982287919828	True
702	qkv_head_3_11_2_5	11		cal-zh-1	1.219168879059395	1.7824787961278412	-0.01356231135297811	0.01447965210294539	0.009903703349440483	True
703	qkv_head_3_11_2_5	11		cal-zh-2	1.554099802346475	1.3150381578929498	-0.007868165939013258	0.0115388126078163	0.013636460877951279	True
704	qkv_head_3_11_2_5	11		cal-en-1	1.4785885259741507	1.3806356075880206	-0.01834592714860888	0.011186528205971876	0.011980186632830786	True
705	qkv_head_3_11_2_5	11		cal-en-2	1.3325279103169543	1.5376445358302295	-0.014210226879396081	0.013741311535837512	0.011908266650183375	True
706	qkv_head_3_11_2_6	3		cal-zh-1	4.448803657327782	1.0250731751261655	0.005026297467503904	0.009553179977907358	0.04146067135118807	True
707	qkv_head_3_11_2_6	3		cal-zh-2	6.1654308863702685	1.0122198135223541	0.0072026770566825365	0.006326389624976942	0.03853403921951965	True
708	qkv_head_3_11_2_6	3		cal-en-1	3.5992751384774477	1.0475411043752696	-0.021709527286439403	0.010331085188224187	0.03549685822939033	True
709	qkv_head_3_11_2_6	3		cal-en-2	4.4335322923855225	1.0275363479057287	-0.004565110738508449	0.00841651374392129	0.03631490559826411	True
710	qkv_head_3_11_2_6	11		cal-zh-1	2.1994298196270297	1.1183818567432098	0.007651353420040241	0.01447965210294539	0.028475943543812037	True
711	qkv_head_3_11_2_6	11		cal-zh-2	3.115818020143447	1.0541684889489984	0.004721209293846872	0.0115388126078163	0.03410540215477059	True
712	qkv_head_3_11_2_6	11		cal-en-1	3.1990639298929318	1.0532256882488185	-0.0013552798667725602	0.011186528205971876	0.033977920671452694	True
713	qkv_head_3_11_2_6	11		cal-en-2	2.3779224633624496	1.0963743332415044	0.011433653604499664	0.013741311535837512	0.02980348261211247	True
714	qkv_head_3_11_2_7	3		cal-zh-1	3.4850653122613857	1.0524472347648017	-0.02723379102772859	0.009553179977907358	0.03163432337796513	True
715	qkv_head_3_11_2_7	3		cal-zh-2	5.453224513991128	1.0189955217198465	-0.009190792721969656	0.006326389624976942	0.033856108542808995	True
716	qkv_head_3_11_2_7	3		cal-en-1	3.654244281818286	1.0450903552168707	-0.018219868689010266	0.010331085188224187	0.03612348806550003	True
717	qkv_head_3_11_2_7	3		cal-en-2	4.010965598388062	1.0365398233161305	-0.01476347512136575	0.00841651374392129	0.03256830690520684	True
718	qkv_head_3_11_2_7	11		cal-zh-1	1.4787103761958742	1.3307293715898465	0.021682616544056704	0.01447965210294539	0.016089831836169206	True
719	qkv_head_3_11_2_7	11		cal-zh-2	1.8405801151774386	1.1658156484254183	0.033205201424461664	0.0115388126078163	0.01821738202552879	True
720	qkv_head_3_11_2_7	11		cal-en-1	2.0318134077397665	1.1472208870299465	0.002382278748018815	0.011186528205971876	0.019812172400204414	True
721	qkv_head_3_11_2_7	11		cal-en-2	1.5665926006235833	1.2835119871812202	0.014556457554004006	0.013741311535837512	0.016771979685349925	True
722	qkv_head_3_11_3_0	3		cal-zh-1	2.7507556438009204	1.0735241706933794	-0.00018862490375195804	0.013462068597038523	0.034494669222604434	True
723	qkv_head_3_11_3_0	3		cal-zh-2	2.789338820188697	1.0623827062560647	0.021538589398936537	0.011990407410406662	0.0314814131129731	True
724	qkv_head_3_11_3_0	3		cal-en-1	2.7673972603425523	1.0797754608055465	-0.017526338287785076	0.012537383553623561	0.03213253325119777	True
725	qkv_head_3_11_3_0	3		cal-en-2	3.009691768300797	1.0629011604955156	-0.0071317118593535915	0.0117573850525916	0.033291999599502804	True
726	qkv_head_3_11_3_0	11		cal-zh-1	1.2732703286970088	1.6400020916363465	-0.01187957818456491	0.017184468201440276	0.0133417351032153	True
727	qkv_head_3_11_3_0	11		cal-zh-2	1.3676268204329127	1.415426510594831	0.03270252471304629	0.017801579217180955	0.01720041061916134	True
728	qkv_head_3_11_3_0	11		cal-en-1	1.5012082726986584	1.3507732920688413	-0.008315891037254188	0.015404060625141202	0.017119603548124567	True
729	qkv_head_3_11_3_0	11		cal-en-2	1.3502766285437489	1.4947325203174657	-0.003981625611449078	0.016534213159789757	0.014936292144284677	True
730	qkv_head_3_11_3_1	3		cal-zh-1	1.2734463973949486	1.6784845567995856	-0.030353688229006966	0.013462068597038523	0.01021351235370902	True
731	qkv_head_3_11_3_1	3		cal-zh-2	1.3521377312219418	1.5285909470117538	-0.025900632489294393	0.011990407410406662	0.010606292222277146	True
732	qkv_head_3_11_3_1	3		cal-en-1	1.3041769252078002	1.631992809002159	-0.03895868981835579	0.012537383553623561	0.010019018615108363	True
733	qkv_head_3_11_3_1	3		cal-en-2	1.4165408864091131	1.4532960670489639	-0.0289985361557649	0.0117573850525916	0.01146003008049855	True
734	qkv_head_3_11_3_1	11		cal-zh-1	1.1536019098238794	2.1675342215647757	-0.04466284297640215	0.017184468201440276	0.00914589266423575	True
735	qkv_head_3_11_3_1	11		cal-zh-2	1.1342228717117047	2.3508846320148225	-0.0556387796735388	0.017801579217180955	0.008588664039804348	True
736	qkv_head_3_11_3_1	11		cal-en-1	1.1728316625271338	2.094635593538056	-0.05538448606360463	0.015404060625141202	0.008625065900907924	True
737	qkv_head_3_11_3_1	11		cal-en-2	1.188386502277332	2.11781175154576	-0.0867749918805414	0.016534213159789757	0.009277989760198864	True
738	qkv_head_3_11_3_2	3		cal-zh-1	1.789775230432042	1.2177449245645355	-0.014677125680856745	0.013462068597038523	0.01978581592854727	True
739	qkv_head_3_11_3_2	3		cal-zh-2	1.9894938869156862	1.1694828650510218	-0.018837820236107635	0.011990407410406662	0.020397769781425455	True
740	qkv_head_3_11_3_2	3		cal-en-1	2.0027220345523022	1.1563086779571834	-0.003200156043173325	0.012537383553623561	0.0217146984859049	True
741	qkv_head_3_11_3_2	3		cal-en-2	2.1224678008184146	1.123591162979634	0.016798591243730055	0.0117573850525916	0.022209743203900324	True
742	qkv_head_3_11_3_2	11		cal-zh-1	1.1682681805432469	1.8479160284128333	0.027551843804223587	0.017184468201440276	0.010864166493833143	True
743	qkv_head_3_11_3_2	11		cal-zh-2	1.3254670669037725	1.4857469026584003	0.021868204168075406	0.017801579217180955	0.01588117528566506	True
744	qkv_head_3_11_3_2	11		cal-en-1	1.3440470269785623	1.4532907569811138	0.026409332832379798	0.015404060625141202	0.014246138831589381	True
745	qkv_head_3_11_3_2	11		cal-en-2	1.2002703055159438	1.8027222252890611	0.001993074410506017	0.016534213159789757	0.011008642819380795	True
746	qkv_head_3_11_3_3	3		cal-zh-1	2.134794862345927	1.1259657497947253	0.00984852821318233	0.013462068597038523	0.025523649260863968	True
747	qkv_head_3_11_3_3	3		cal-zh-2	2.201670731773668	1.1300631529362974	-0.013239699147942105	0.011990407410406662	0.023360578556110637	True
748	qkv_head_3_11_3_3	3		cal-en-1	2.235208156511693	1.104405580492872	0.024710180720829904	0.012537383553623561	0.025374429897274325	True
749	qkv_head_3_11_3_3	3		cal-en-2	2.781801726886684	1.064057708442882	0.01842130483850483	0.0117573850525916	0.030737725767555655	True
750	qkv_head_3_11_3_3	11		cal-zh-1	1.2645970865863374	1.631106551985855	0.0012153143542295505	0.017184468201440276	0.013323120059581117	True
751	qkv_head_3_11_3_3	11		cal-zh-2	1.4167464129634164	1.433904141159252	-0.015666817763839623	0.017801579217180955	0.01758857009830214	True
752	qkv_head_3_11_3_3	11		cal-en-1	1.5379271471877078	1.3090717167326897	0.006379016976114329	0.015404060625141202	0.01809703984091762	True
753	qkv_head_3_11_3_3	11		cal-en-2	1.3368741004679154	1.5147018288349814	-0.004674615665342824	0.016534213159789757	0.014593077610489127	True
754	qkv_head_3_11_3_4	3		cal-zh-1	3.0387259316418667	1.0601593493590995	-0.003179586303728579	0.013462068597038523	0.03858621533082977	True
755	qkv_head_3_11_3_4	3		cal-zh-2	2.8887310104096873	1.0609683848255513	0.01257830620515337	0.011990407410406662	0.032646648297237436	True
756	qkv_head_3_11_3_4	3		cal-en-1	2.9513494910894376	1.059745772723018	0.008175679249833657	0.012537383553623561	0.03491611056442602	True
757	qkv_head_3_11_3_4	3		cal-en-2	3.2321443997778787	1.05017040682797	0.004172658114166998	0.0117573850525916	0.036186095139120765	True
758	qkv_head_3_11_3_4	11		cal-zh-1	1.3708702543875197	1.4522027400201192	0.006270631268003763	0.017184468201440276	0.016222029917459257	True
759	qkv_head_3_11_3_4	11		cal-zh-2	1.4753071796765038	1.301246150000182	0.04802209063696871	0.017801579217180955	0.020182805250707894	True
760	qkv_head_3_11_3_4	11		cal-en-1	1.5315894880397174	1.2975106577028543	0.02015924362643019	0.015404060625141202	0.018183047042065834	True
761	qkv_head_3_11_3_4	11		cal-en-2	1.5733585498798013	1.2818113566933003	0.012699034555222668	0.016534213159789757	0.02029490962507893	True
762	qkv_head_3_11_3_5	3		cal-zh-1	1.9696439441660223	1.1515581395708896	0.01345492354668887	0.013462068597038523	0.023025743101416567	True
763	qkv_head_3_11_3_5	3		cal-zh-2	1.997271944386627	1.1498627433082476	0.008046796883029991	0.011990407410406662	0.02082692431069652	True
764	qkv_head_3_11_3_5	3		cal-en-1	1.8919094226028246	1.1638202340398336	0.01945837459132859	0.012537383553623561	0.02038080571734952	True
765	qkv_head_3_11_3_5	3		cal-en-2	1.9042446604959395	1.1642118625347706	0.015042169233575866	0.0117573850525916	0.019230982287919828	True
766	qkv_head_3_11_3_5	11		cal-zh-1	1.1361527754374074	1.9714020657318334	0.0358294940558705	0.017184468201440276	0.009903703349440483	True
767	qkv_head_3_11_3_5	11		cal-zh-2	1.2369550040543371	1.6147703344615827	0.03703346687833328	0.017801579217180955	0.013636460877951279	True
768	qkv_head_3_11_3_5	11		cal-en-1	1.2413420683802323	1.5961110677078845	0.041102012928719144	0.015404060625141202	0.011980186632830786	True
769	qkv_head_3_11_3_5	11		cal-en-2	1.217536206983719	1.690506583988923	0.025215952929228742	0.016534213159789757	0.011908266650183375	True
770	qkv_head_3_11_3_6	3		cal-zh-1	3.232495498403588	1.0495748071836362	0.005881680178347051	0.013462068597038523	0.04146067135118807	True
771	qkv_head_3_11_3_6	3		cal-zh-2	3.371438673689715	1.0490704861343287	-0.0059869122703649245	0.011990407410406662	0.03853403921951965	True
772	qkv_head_3_11_3_6	3		cal-en-1	2.988366741760892	1.0554821443134834	0.015155222815186825	0.012537383553623561	0.03549685822939033	True
773	qkv_head_3_11_3_6	3		cal-en-2	3.2391201823132656	1.0487039023694502	0.007786480806396734	0.0117573850525916	0.03631490559826411	True
774	qkv_head_3_11_3_6	11		cal-zh-1	1.9511654012863302	1.1774759892527453	-0.01845138038627784	0.017184468201440276	0.028475943543812037	True
775	qkv_head_3_11_3_6	11		cal-zh-2	2.1963787670733437	1.1464169352279951	-0.04007210209720606	0.017801579217180955	0.03410540215477059	True
776	qkv_head_3_11_3_6	11		cal-en-1	2.4448184176243526	1.108370682441092	-0.025316586807391944	0.015404060625141202	0.033977920671452694	True
777	qkv_head_3_11_3_6	11		cal-en-2	2.074294085793254	1.1507655335775513	-0.014858766372463337	0.016534213159789757	0.02980348261211247	True
778	qkv_head_3_11_3_7	3		cal-zh-1	2.5221478579153005	1.073306581255337	0.03420023617470057	0.013462068597038523	0.03163432337796513	True
779	qkv_head_3_11_3_7	3		cal-zh-2	2.964421806387062	1.049873323448574	0.03274500707541367	0.011990407410406662	0.033856108542808995	True
780	qkv_head_3_11_3_7	3		cal-en-1	3.005619826194979	1.0431608517166104	0.04649364404491427	0.012537383553623561	0.03612348806550003	True
781	qkv_head_3_11_3_7	3		cal-en-2	2.9191376698916702	1.0538289787779627	0.027382436257563484	0.0117573850525916	0.03256830690520684	True
782	qkv_head_3_11_3_7	11		cal-zh-1	1.3304412089677398	1.4209548541083612	0.05691836956669817	0.017184468201440276	0.016089831836169206	True
783	qkv_head_3_11_3_7	11		cal-zh-2	1.4069095461212784	1.3747975258788077	0.03315868172099057	0.017801579217180955	0.01821738202552879	True
784	qkv_head_3_11_3_7	11		cal-en-1	1.5775865912309261	1.2265812653881565	0.06431614336936929	0.015404060625141202	0.019812172400204414	True
785	qkv_head_3_11_3_7	11		cal-en-2	1.385459845862523	1.3658189936772798	0.053958244134095584	0.016534213159789757	0.016771979685349925	True
786	qkv_head_3_11_4_0	3		cal-zh-1	2.4877019076470615	1.0846556077054188	0.01562402839030466	0.01503991949084825	0.034494669222604434	True
787	qkv_head_3_11_4_0	3		cal-zh-2	2.20009174050634	1.116120480427998	0.011467225224021693	0.01597072034828748	0.0314814131129731	True
788	qkv_head_3_11_4_0	3		cal-en-1	2.128106573717577	1.1297574484572597	0.005157349226625478	0.01705834154486236	0.03213253325119777	True
789	qkv_head_3_11_4_0	3		cal-en-2	2.286402958118062	1.0913977705403022	0.038449276844792823	0.01589169311153847	0.033291999599502804	True
790	qkv_head_3_11_4_0	11		cal-zh-1	1.1696353772278971	1.644108243296761	0.09703091077051648	0.018753927155543	0.0133417351032153	True
791	qkv_head_3_11_4_0	11		cal-zh-2	1.2370432061610364	1.480937321936909	0.10024322908541466	0.020591625184706742	0.01720041061916134	True
792	qkv_head_3_11_4_0	11		cal-en-1	1.2386992134718942	1.4607910928175645	0.10888915710668562	0.020189053245278234	0.017119603548124567	True
793	qkv_head_3_11_4_0	11		cal-en-2	1.2179242408827535	1.5028481519528558	0.10699887295129051	0.018430521614215163	0.014936292144284677	True
794	qkv_head_3_11_4_1	3		cal-zh-1	1.1846758675168167	1.7444958260351406	0.04249130442629727	0.01503991949084825	0.01021351235370902	True
795	qkv_head_3_11_4_1	3		cal-zh-2	1.1833037485729074	1.781792624555915	0.030742284332981967	0.01597072034828748	0.010606292222277146	True
796	qkv_head_3_11_4_1	3		cal-en-1	1.132911099350618	1.9288899656844603	0.05233678836806566	0.01705834154486236	0.010019018615108363	True
797	qkv_head_3_11_4_1	3		cal-en-2	1.2061861800744125	1.6726256802536732	0.045170718859748514	0.01589169311153847	0.01146003008049855	True
798	qkv_head_3_11_4_1	11		cal-zh-1	1.1026620427113887	2.2610415828578527	0.02252202702883979	0.018753927155543	0.00914589266423575	True
799	qkv_head_3_11_4_1	11		cal-zh-2	1.0838251969400705	2.5985091648362233	-0.0008497022050508986	0.020591625184706742	0.008588664039804348	True
800	qkv_head_3_11_4_1	11		cal-en-1	1.0801047641008743	2.5282464903387907	0.018592904403925865	0.020189053245278234	0.008625065900907924	True
801	qkv_head_3_11_4_1	11		cal-en-2	1.098218905988058	2.1815875860072946	0.04701035219508494	0.018430521614215163	0.009277989760198864	True
802	qkv_head_3_11_4_2	3		cal-zh-1	1.6392172252934252	1.2460287301497661	0.016588993325118602	0.01503991949084825	0.01978581592854727	True
803	qkv_head_3_11_4_2	3		cal-zh-2	1.6241443114296503	1.271646600635974	-0.0025878457038397565	0.01597072034828748	0.020397769781425455	True
804	qkv_head_3_11_4_2	3		cal-en-1	1.6162813907037406	1.2696966533118585	0.0031730402769410684	0.01705834154486236	0.0217146984859049	True
805	qkv_head_3_11_4_2	3		cal-en-2	1.71746062107636	1.2288911614477698	0.0012625855156029855	0.01589169311153847	0.022209743203900324	True
806	qkv_head_3_11_4_2	11		cal-zh-1	1.1654311848957195	2.011789082829217	-0.019541087051540635	0.018753927155543	0.010864166493833143	True
807	qkv_head_3_11_4_2	11		cal-zh-2	1.2701739001258134	1.6469149417673334	-0.012009057536869741	0.020591625184706742	0.01588117528566506	True
808	qkv_head_3_11_4_2	11		cal-en-1	1.2320280675605932	1.7459804758117077	-0.01415024878808255	0.020189053245278234	0.014246138831589381	True
809	qkv_head_3_11_4_2	11		cal-en-2	1.1644838608494499	1.9495632040133433	0.000628328700166995	0.018430521614215163	0.011008642819380795	True
810	qkv_head_3_11_4_3	3		cal-zh-1	1.9853863924158435	1.1698974231692283	-0.018191957740818058	0.01503991949084825	0.025523649260863968	True
811	qkv_head_3_11_4_3	3		cal-zh-2	1.7802858090762654	1.2171122700787913	-0.010216822534566192	0.01597072034828748	0.023360578556110637	True
812	qkv_head_3_11_4_3	3		cal-en-1	1.7904408821751516	1.2036507699946066	0.0023540395675466863	0.01705834154486236	0.025374429897274325	True
813	qkv_head_3_11_4_3	3		cal-en-2	2.1884864503366965	1.13146806339917	-0.012496156115536406	0.01589169311153847	0.030737725767555655	True
814	qkv_head_3_11_4_3	11		cal-zh-1	1.277314238118737	1.7979766052764852	-0.08927037044321341	0.018753927155543	0.013323120059581117	True
815	qkv_head_3_11_4_3	11		cal-zh-2	1.3721491771049472	1.6064285723360965	-0.08967964716437854	0.020591625184706742	0.01758857009830214	True
816	qkv_head_3_11_4_3	11		cal-en-1	1.407842520271762	1.5705887732240358	-0.09958153713170158	0.020189053245278234	0.01809703984091762	True
817	qkv_head_3_11_4_3	11		cal-en-2	1.3261727744716687	1.6749075579859496	-0.08323242705451536	0.018430521614215163	0.014593077610489127	True
818	qkv_head_3_11_4_4	3		cal-zh-1	2.7835865554701416	1.084970820049022	-0.03237460588149822	0.01503991949084825	0.03858621533082977	True
819	qkv_head_3_11_4_4	3		cal-zh-2	2.2968407167290765	1.1236130716225563	-0.023702292630053592	0.01597072034828748	0.032646648297237436	True
820	qkv_head_3_11_4_4	3		cal-en-1	2.293712660540981	1.120598295078924	-0.017457006958491693	0.01705834154486236	0.03491611056442602	True
821	qkv_head_3_11_4_4	3		cal-en-2	2.4919054511955325	1.0943594919850037	-0.005414987400284301	0.01589169311153847	0.036186095139120765	True
822	qkv_head_3_11_4_4	11		cal-zh-1	1.3444283090476057	1.554263597220491	-0.03426225750611982	0.018753927155543	0.016222029917459257	True
823	qkv_head_3_11_4_4	11		cal-zh-2	1.4357563424718467	1.4648388117260738	-0.05137473051143252	0.020591625184706742	0.020182805250707894	True
824	qkv_head_3_11_4_4	11		cal-en-1	1.3811632900471487	1.533537208514944	-0.05355174748502018	0.020189053245278234	0.018183047042065834	True
825	qkv_head_3_11_4_4	11		cal-en-2	1.5110216869488025	1.37221196720404	-0.032074607241683074	0.018430521614215163	0.02029490962507893	True
826	qkv_head_3_11_4_5	3		cal-zh-1	1.8396920825599057	1.2016472470740682	-0.013253653261420143	0.01503991949084825	0.023025743101416567	True
827	qkv_head_3_11_4_5	3		cal-zh-2	1.6447919444348438	1.2612765948447613	-0.0018189580574573029	0.01597072034828748	0.02082692431069652	True
828	qkv_head_3_11_4_5	3		cal-en-1	1.5474415913726416	1.2951787850020635	0.013768924522946067	0.01705834154486236	0.02038080571734952	True
829	qkv_head_3_11_4_5	3		cal-en-2	1.5585932798595905	1.2879574073963742	0.014542547175482146	0.01589169311153847	0.019230982287919828	True
830	qkv_head_3_11_4_5	11		cal-zh-1	1.1341548865290012	2.1476671275972414	-0.007036273066086938	0.018753927155543	0.009903703349440483	True
831	qkv_head_3_11_4_5	11		cal-zh-2	1.1967099244473725	1.8070819430049379	0.004861098723764479	0.020591625184706742	0.013636460877951279	True
832	qkv_head_3_11_4_5	11		cal-en-1	1.1585679586302098	1.9524228563317234	0.008294562264235998	0.020189053245278234	0.011980186632830786	True
833	qkv_head_3_11_4_5	11		cal-en-2	1.1939189105101096	1.8478380550403566	-0.00617199383049297	0.018430521614215163	0.011908266650183375	True
834	qkv_head_3_11_4_6	3		cal-zh-1	2.8991973424907873	1.0516880985790684	0.03520423014190867	0.01503991949084825	0.04146067135118807	True
835	qkv_head_3_11_4_6	3		cal-zh-2	2.580612171125754	1.069553987778138	0.03357311978140359	0.01597072034828748	0.03853403921951965	True
836	qkv_head_3_11_4_6	3		cal-en-1	2.3310838704350103	1.1202237835988633	-0.024933647831159637	0.01705834154486236	0.03549685822939033	True
837	qkv_head_3_11_4_6	3		cal-en-2	2.4986173758953307	1.093414945921936	-0.004633695769200143	0.01589169311153847	0.03631490559826411	True
838	qkv_head_3_11_4_6	11		cal-zh-1	1.7730976503972127	1.1677416105300475	0.05323374709973057	0.018753927155543	0.028475943543812037	True
839	qkv_head_3_11_4_6	11		cal-zh-2	1.8684580553707553	1.128108320639136	0.07610832201243423	0.020591625184706742	0.03410540215477059	True
840	qkv_head_3_11_4_6	11		cal-en-1	1.8998903644675527	1.1288797834133792	0.06621052004972025	0.020189053245278234	0.033977920671452694	True
841	qkv_head_3_11_4_6	11		cal-en-2	1.8575362867407919	1.1487034293116976	0.05085771211143941	0.018430521614215163	0.02980348261211247	True
842	qkv_head_3_11_4_7	3		cal-zh-1	2.3649953950591853	1.1243907420726693	-0.040195641862400704	0.01503991949084825	0.03163432337796513	True
843	qkv_head_3_11_4_7	3		cal-zh-2	2.392824668067923	1.1287515092845326	-0.05464743773090774	0.01597072034828748	0.033856108542808995	True
844	qkv_head_3_11_4_7	3		cal-en-1	2.3878752436324757	1.1276095873838576	-0.05136220627095368	0.01705834154486236	0.03612348806550003	True
845	qkv_head_3_11_4_7	3		cal-en-2	2.3184716614068246	1.1312973756393065	-0.0427696983680142	0.01589169311153847	0.03256830690520684	True
846	qkv_head_3_11_4_7	11		cal-zh-1	1.3433993124565053	1.5658344414750722	-0.040009955852342995	0.018753927155543	0.016089831836169206	True
847	qkv_head_3_11_4_7	11		cal-zh-2	1.3732695907233206	1.5522456876681452	-0.05831237390834879	0.020591625184706742	0.01821738202552879	True
848	qkv_head_3_11_4_7	11		cal-en-1	1.4475121260688726	1.47504770279956	-0.06739716432078863	0.020189053245278234	0.019812172400204414	True
849	qkv_head_3_11_4_7	11		cal-en-2	1.381030087362838	1.517596929672837	-0.04347411520478543	0.018430521614215163	0.016771979685349925	True
850	qkv_head_3_11_5_0	3		cal-zh-1	3.57457223682331	1.0487609296000466	-0.02355013567654977	0.010120556800467573	0.034494669222604434	True
851	qkv_head_3_11_5_0	3		cal-zh-2	3.3101079610057647	1.0493178484196282	-0.0009090376901426668	0.009979737537888988	0.0314814131129731	True
852	qkv_head_3_11_5_0	3		cal-en-1	2.8590637855142207	1.0636718998080623	0.009424055877069418	0.011954428181041804	0.03213253325119777	True
853	qkv_head_3_11_5_0	3		cal-en-2	3.1449202480092797	1.051530670222952	0.009090281530736157	0.01113146149702431	0.033291999599502804	True
854	qkv_head_3_11_5_0	11		cal-zh-1	1.3772098716066066	1.4590411043853992	-0.003036654579094609	0.014134476030660571	0.0133417351032153	True
855	qkv_head_3_11_5_0	11		cal-zh-2	1.5310430555987375	1.3192237205092523	0.0012128055926401273	0.01482073910875298	0.01720041061916134	True
856	qkv_head_3_11_5_0	11		cal-en-1	1.5535343309390675	1.3340204319711868	-0.02459779438462669	0.01470060909863494	0.017119603548124567	True
857	qkv_head_3_11_5_0	11		cal-en-2	1.4598354056954619	1.3635565845386197	0.0070442934078433165	0.013951216296353144	0.014936292144284677	True
858	qkv_head_3_11_5_1	3		cal-zh-1	1.3554763403629653	1.3431398346868966	0.08974466276109525	0.010120556800467573	0.01021351235370902	True
859	qkv_head_3_11_5_1	3		cal-zh-2	1.4035674101610658	1.3206532571978011	0.07504147189403709	0.009979737537888988	0.010606292222277146	True
860	qkv_head_3_11_5_1	3		cal-en-1	1.2590201270847314	1.502229536236645	0.06996868961900601	0.011954428181041804	0.010019018615108363	True
861	qkv_head_3_11_5_1	3		cal-en-2	1.384206067301391	1.3445197293445987	0.06987695656362887	0.01113146149702431	0.01146003008049855	True
862	qkv_head_3_11_5_1	11		cal-zh-1	1.1733657728328777	1.8133725159664	0.03237934995370435	0.014134476030660571	0.00914589266423575	True
863	qkv_head_3_11_5_1	11		cal-zh-2	1.1401391582021518	1.9674427749268752	0.030980444027344973	0.01482073910875298	0.008588664039804348	True
864	qkv_head_3_11_5_1	11		cal-en-1	1.1438076129850347	1.9495118988906164	0.03062686903731305	0.01470060909863494	0.008625065900907924	True
865	qkv_head_3_11_5_1	11		cal-en-2	1.1850980383596263	1.7820195422574578	0.028426289639955964	0.013951216296353144	0.009277989760198864	True
866	qkv_head_3_11_5_2	3		cal-zh-1	2.128635742040195	1.0888092263984275	0.07442000464713998	0.010120556800467573	0.01978581592854727	True
867	qkv_head_3_11_5_2	3		cal-zh-2	2.2253009055864106	1.088742505604802	0.055197542331061375	0.009979737537888988	0.020397769781425455	True
868	qkv_head_3_11_5_2	3		cal-en-1	2.018818181627841	1.1114046542491391	0.06162748228884803	0.011954428181041804	0.0217146984859049	True
869	qkv_head_3_11_5_2	3		cal-en-2	2.1630583979371627	1.084118850515309	0.07570370126566633	0.01113146149702431	0.022209743203900324	True
870	qkv_head_3_11_5_2	11		cal-zh-1	1.2190404139397133	1.5859935063603834	0.0681283440977822	0.014134476030660571	0.010864166493833143	True
871	qkv_head_3_11_5_2	11		cal-zh-2	1.4205607479542506	1.3257054251248557	0.06076629216827921	0.01482073910875298	0.01588117528566506	True
872	qkv_head_3_11_5_2	11		cal-en-1	1.3554018230810296	1.398640895490164	0.052632905481034435	0.01470060909863494	0.014246138831589381	True
873	qkv_head_3_11_5_2	11		cal-en-2	1.224059418525504	1.5512464149870662	0.07878005012759877	0.013951216296353144	0.011008642819380795	True
874	qkv_head_3_11_5_3	3		cal-zh-1	2.7067458832792863	1.0732703296531867	0.0067038835293656875	0.010120556800467573	0.025523649260863968	True
875	qkv_head_3_11_5_3	3		cal-zh-2	2.5608570055352575	1.0940088973361963	-0.01679762149662983	0.009979737537888988	0.023360578556110637	True
876	qkv_head_3_11_5_3	3		cal-en-1	2.355017240575447	1.1094982067202448	-0.00958482139366159	0.011954428181041804	0.025374429897274325	True
877	qkv_head_3_11_5_3	3		cal-en-2	2.960827362574928	1.0722437969248555	-0.025623819314110896	0.01113146149702431	0.030737725767555655	True
878	qkv_head_3_11_5_3	11		cal-zh-1	1.3872811638003892	1.4717642916849913	-0.019127577374687055	0.014134476030660571	0.013323120059581117	True
879	qkv_head_3_11_5_3	11		cal-zh-2	1.55104545200385	1.3069646856731092	0.0011134787929078637	0.01482073910875298	0.01758857009830214	True
880	qkv_head_3_11_5_3	11		cal-en-1	1.5775063587569913	1.2814418564888137	0.010939329488013726	0.01470060909863494	0.01809703984091762	True
881	qkv_head_3_11_5_3	11		cal-en-2	1.4593929324430748	1.3952030548544447	-0.017062941661356853	0.013951216296353144	0.014593077610489127	True
882	qkv_head_3_11_5_4	3		cal-zh-1	3.9734218882158214	1.0421660058424955	-0.03301180318170185	0.010120556800467573	0.03858621533082977	True
883	qkv_head_3_11_5_4	3		cal-zh-2	3.4363744441184494	1.0504635796598227	-0.016401713015412385	0.009979737537888988	0.032646648297237436	True
884	qkv_head_3_11_5_4	3		cal-en-1	3.108812983261327	1.0643820556162449	-0.02291055163397625	0.011954428181041804	0.03491611056442602	True
885	qkv_head_3_11_5_4	3		cal-en-2	3.431912070589121	1.055714824383894	-0.03235436688981093	0.01113146149702431	0.036186095139120765	True
886	qkv_head_3_11_5_4	11		cal-zh-1	1.5441192896061464	1.3454122078722597	-0.02923547672453877	0.014134476030660571	0.016222029917459257	True
887	qkv_head_3_11_5_4	11		cal-zh-2	1.677936905389541	1.2321510715094717	0.014324031240744044	0.01482073910875298	0.020182805250707894	True
888	qkv_head_3_11_5_4	11		cal-en-1	1.5897450618068987	1.2852752713031146	0.0010547833149047302	0.01470060909863494	0.018183047042065834	True
889	qkv_head_3_11_5_4	11		cal-en-2	1.7751898568063538	1.220308841818816	-0.012075035629724418	0.013951216296353144	0.02029490962507893	True
890	qkv_head_3_11_5_5	3		cal-zh-1	2.485770956576148	1.092576515258429	-0.0006084172914041454	0.010120556800467573	0.023025743101416567	True
891	qkv_head_3_11_5_5	3		cal-zh-2	2.319160642508937	1.1112833645126523	-0.005574391436871005	0.009979737537888988	0.02082692431069652	True
892	qkv_head_3_11_5_5	3		cal-en-1	1.9600904043417648	1.149697430612673	0.018958681601285214	0.011954428181041804	0.02038080571734952	True
893	qkv_head_3_11_5_5	3		cal-en-2	1.9737927459450575	1.1424896360283563	0.025708015640368585	0.01113146149702431	0.019230982287919828	True
894	qkv_head_3_11_5_5	11		cal-zh-1	1.2156960992646402	1.735030500140575	0.009299119972836993	0.014134476030660571	0.009903703349440483	True
895	qkv_head_3_11_5_5	11		cal-zh-2	1.3607140581345964	1.4788872448446622	-0.002701520077284715	0.01482073910875298	0.013636460877951279	True
896	qkv_head_3_11_5_5	11		cal-en-1	1.2877073323231005	1.580115795028723	0.003647510838430882	0.01470060909863494	0.011980186632830786	True
897	qkv_head_3_11_5_5	11		cal-en-2	1.3122321814059508	1.5373551442558455	0.0038775669248790946	0.013951216296353144	0.011908266650183375	True
898	qkv_head_3_11_5_6	3		cal-zh-1	4.225139161969048	1.0313571750053776	-0.008424268937866684	0.010120556800467573	0.04146067135118807	True
899	qkv_head_3_11_5_6	3		cal-zh-2	4.031213051563047	1.0440236484093468	-0.044234526716230876	0.009979737537888988	0.03853403921951965	True
900	qkv_head_3_11_5_6	3		cal-en-1	3.167379556283698	1.0666919078585695	-0.03624790639179999	0.011954428181041804	0.03549685822939033	True
901	qkv_head_3_11_5_6	3		cal-en-2	3.429800037729672	1.0513227677041062	-0.018467268200165393	0.01113146149702431	0.03631490559826411	True
902	qkv_head_3_11_5_6	11		cal-zh-1	2.2485478991956724	1.1161016082250172	0.0007010079652972932	0.014134476030660571	0.028475943543812037	True
903	qkv_head_3_11_5_6	11		cal-zh-2	2.53975025723506	1.1036660935136915	-0.03364244316954564	0.01482073910875298	0.03410540215477059	True
904	qkv_head_3_11_5_6	11		cal-en-1	2.541586919143717	1.0996221973031717	-0.02540308588031789	0.01470060909863494	0.033977920671452694	True
905	qkv_head_3_11_5_6	11		cal-en-2	2.375174302640349	1.1118355149612003	-0.018216061427308236	0.013951216296353144	0.02980348261211247	True
906	qkv_head_3_11_5_7	3		cal-zh-1	3.324321647711438	1.063527917341904	-0.044918142326010393	0.010120556800467573	0.03163432337796513	True
907	qkv_head_3_11_5_7	3		cal-zh-2	3.542502286243757	1.0442205133936864	-0.0059497533503763645	0.009979737537888988	0.033856108542808995	True
908	qkv_head_3_11_5_7	3		cal-en-1	3.208871596355062	1.061919185967197	-0.02743187410744788	0.011954428181041804	0.03612348806550003	True
909	qkv_head_3_11_5_7	3		cal-en-2	3.1135087148429967	1.0641603962035726	-0.022847788064780012	0.01113146149702431	0.03256830690520684	True
910	qkv_head_3_11_5_7	11		cal-zh-1	1.5107025641739444	1.3271107740712078	0.005971194499352879	0.014134476030660571	0.016089831836169206	True
911	qkv_head_3_11_5_7	11		cal-zh-2	1.5646547392153765	1.272923829158812	0.025522393335855063	0.01482073910875298	0.01821738202552879	True
912	qkv_head_3_11_5_7	11		cal-en-1	1.65973167623349	1.2315189918637557	0.02285937727426677	0.01470060909863494	0.019812172400204414	True
913	qkv_head_3_11_5_7	11		cal-en-2	1.5528930910463379	1.2917227306937245	0.01404861847018567	0.013951216296353144	0.016771979685349925	True
914	qkv_head_3_11_6_0	3		cal-zh-1	3.4187347043351464	1.0466977043925327	-0.0030031741255326927	0.010561068410279402	0.034494669222604434	True
915	qkv_head_3_11_6_0	3		cal-zh-2	3.282486018839036	1.0501298375519126	-0.0006634046096062675	0.010071504051652823	0.0314814131129731	True
916	qkv_head_3_11_6_0	3		cal-en-1	3.0586185833265307	1.0501356933179398	0.021982864693504103	0.011032274592116392	0.03213253325119777	True
917	qkv_head_3_11_6_0	3		cal-en-2	3.191896982729984	1.0501909743277578	0.008132752180049175	0.01095366100030517	0.033291999599502804	True
918	qkv_head_3_11_6_0	11		cal-zh-1	1.3764766709257066	1.5568922838895907	-0.06391860027426359	0.015090444229560003	0.0133417351032153	True
919	qkv_head_3_11_6_0	11		cal-zh-2	1.5496912454213612	1.3622758871993887	-0.047234527551024606	0.015120240696746478	0.01720041061916134	True
920	qkv_head_3_11_6_0	11		cal-en-1	1.5673044995782572	1.3526407603069526	-0.04913192731866155	0.014774840221360943	0.017119603548124567	True
921	qkv_head_3_11_6_0	11		cal-en-2	1.5172554870674815	1.3876491002300742	-0.04871991834616531	0.013660410215322117	0.014936292144284677	True
922	qkv_head_3_11_6_1	3		cal-zh-1	1.421697568843303	1.4700765773127487	-0.04444221410205532	0.010561068410279402	0.01021351235370902	True
923	qkv_head_3_11_6_1	3		cal-zh-2	1.4771410627448962	1.4026609758168544	-0.03462538565542167	0.010071504051652823	0.010606292222277146	True
924	qkv_head_3_11_6_1	3		cal-en-1	1.3588464764401142	1.4962710453507844	-0.011957041974102476	0.011032274592116392	0.010019018615108363	True
925	qkv_head_3_11_6_1	3		cal-en-2	1.4578092435870629	1.3933949688785907	-0.014630718743998824	0.01095366100030517	0.01146003008049855	True
926	qkv_head_3_11_6_1	11		cal-zh-1	1.2029712402749746	1.984865893093341	-0.06584762819521361	0.015090444229560003	0.00914589266423575	True
927	qkv_head_3_11_6_1	11		cal-zh-2	1.1805223733289332	2.0782955707549715	-0.06248102123078997	0.015120240696746478	0.008588664039804348	True
928	qkv_head_3_11_6_1	11		cal-en-1	1.1848314602180885	2.0296303489253664	-0.053995453499317204	0.014774840221360943	0.008625065900907924	True
929	qkv_head_3_11_6_1	11		cal-en-2	1.2422902185529607	1.8290809141345583	-0.06035760032579277	0.013660410215322117	0.009277989760198864	True
930	qkv_head_3_11_6_2	3		cal-zh-1	2.1498049852806536	1.1475006944520632	-0.02983289101494507	0.010561068410279402	0.01978581592854727	True
931	qkv_head_3_11_6_2	3		cal-zh-2	2.2776102192935377	1.1245817948484413	-0.0211542668370576	0.010071504051652823	0.020397769781425455	True
932	qkv_head_3_11_6_2	3		cal-en-1	2.204981609494343	1.1202532976591146	0.00310306735767809	0.011032274592116392	0.0217146984859049	True
933	qkv_head_3_11_6_2	3		cal-en-2	2.2579918684350946	1.1136228474690426	0.00312475477117981	0.01095366100030517	0.022209743203900324	True
934	qkv_head_3_11_6_2	11		cal-zh-1	1.238071118109518	1.7196941128125924	-0.01007801117022682	0.015090444229560003	0.010864166493833143	True
935	qkv_head_3_11_6_2	11		cal-zh-2	1.4496200572629274	1.3801626007132752	0.0008499615838476867	0.015120240696746478	0.01588117528566506	True
936	qkv_head_3_11_6_2	11		cal-en-1	1.386243643992731	1.4376897901945216	0.004169837533119167	0.014774840221360943	0.014246138831589381	True
937	qkv_head_3_11_6_2	11		cal-en-2	1.2933744226011672	1.604923101295706	-0.01450330780206557	0.013660410215322117	0.011008642819380795	True
938	qkv_head_3_11_6_3	3		cal-zh-1	2.6158845663795325	1.0823897310518507	-0.00043153396375535694	0.010561068410279402	0.025523649260863968	True
939	qkv_head_3_11_6_3	3		cal-zh-2	2.526411847776194	1.0892181929443614	-0.0006042931379525459	0.010071504051652823	0.023360578556110637	True
940	qkv_head_3_11_6_3	3		cal-en-1	2.532168677171177	1.100934297763645	-0.026477078196889388	0.011032274592116392	0.025374429897274325	True
941	qkv_head_3_11_6_3	3		cal-en-2	3.0001369080743188	1.0691253768760236	-0.022501800909919874	0.01095366100030517	0.030737725767555655	True
942	qkv_head_3_11_6_3	11		cal-zh-1	1.3028604139720523	1.475686050116166	0.046461267197210596	0.015090444229560003	0.013323120059581117	True
943	qkv_head_3_11_6_3	11		cal-zh-2	1.4956079287982853	1.2857186084487628	0.04998931398423839	0.015120240696746478	0.01758857009830214	True
944	qkv_head_3_11_6_3	11		cal-en-1	1.5460280719000417	1.2622129332121539	0.04493080346628945	0.014774840221360943	0.01809703984091762	True
945	qkv_head_3_11_6_3	11		cal-en-2	1.4416744371063257	1.3495346720873034	0.02938697069885521	0.013660410215322117	0.014593077610489127	True
946	qkv_head_3_11_6_4	3		cal-zh-1	3.7490634393680318	1.0261207303740953	0.040168422010844806	0.010561068410279402	0.03858621533082977	True
947	qkv_head_3_11_6_4	3		cal-zh-2	3.3838597221842304	1.0439220771428217	0.008750707504536109	0.010071504051652823	0.032646648297237436	True
948	qkv_head_3_11_6_4	3		cal-en-1	3.305266484839991	1.044349066130686	0.014509531159515891	0.011032274592116392	0.03491611056442602	True
949	qkv_head_3_11_6_4	3		cal-en-2	3.4534593853169353	1.0453745627885702	-0.0019466428367665278	0.01095366100030517	0.036186095139120765	True
950	qkv_head_3_11_6_4	11		cal-zh-1	1.4417272670542616	1.341157982596412	0.03582338084669198	0.015090444229560003	0.016222029917459257	True
951	qkv_head_3_11_6_4	11		cal-zh-2	1.6411588286823968	1.2294978920434267	0.03309176122845076	0.015120240696746478	0.020182805250707894	True
952	qkv_head_3_11_6_4	11		cal-en-1	1.5525677938197069	1.2615564945439894	0.04229285044181585	0.014774840221360943	0.018183047042065834	True
953	qkv_head_3_11_6_4	11		cal-en-2	1.768391385567355	1.190296098596102	0.02692977028832335	0.013660410215322117	0.02029490962507893	True
954	qkv_head_3_11_6_5	3		cal-zh-1	2.4002676669471046	1.1009152200629992	-0.001790087902572357	0.010561068410279402	0.023025743101416567	True
955	qkv_head_3_11_6_5	3		cal-zh-2	2.305144520410407	1.1147240000788328	-0.009056447853443972	0.010071504051652823	0.02082692431069652	True
956	qkv_head_3_11_6_5	3		cal-en-1	2.1180327479344947	1.1465061388822746	-0.019825126580266812	0.011032274592116392	0.02038080571734952	True
957	qkv_head_3_11_6_5	3		cal-en-2	2.018773375975235	1.1498611389582976	0.001971056166347201	0.01095366100030517	0.019230982287919828	True
958	qkv_head_3_11_6_5	11		cal-zh-1	1.1926365689280352	1.8172409849653954	0.006349486260057898	0.015090444229560003	0.009903703349440483	True
959	qkv_head_3_11_6_5	11		cal-zh-2	1.3282059926092498	1.4727277468001023	0.02729595080475889	0.015120240696746478	0.013636460877951279	True
960	qkv_head_3_11_6_5	11		cal-en-1	1.2704953625059565	1.5668675754653154	0.026712737250685337	0.014774840221360943	0.011980186632830786	True
961	qkv_head_3_11_6_5	11		cal-en-2	1.325906009138309	1.5209955003410194	0.0010876620522679232	0.013660410215322117	0.011908266650183375	True
962	qkv_head_3_11_6_6	3		cal-zh-1	4.068355505835278	1.0363117483198214	-0.01777844447105316	0.010561068410279402	0.04146067135118807	True
963	qkv_head_3_11_6_6	3		cal-zh-2	3.9536945360766653	1.0333630043881532	0.000905451052679891	0.010071504051652823	0.03853403921951965	True
964	qkv_head_3_11_6_6	3		cal-en-1	3.357577231161532	1.0435209149789615	0.012320198139933429	0.011032274592116392	0.03549685822939033	True
965	qkv_head_3_11_6_6	3		cal-en-2	3.4371318774865145	1.0367417119522786	0.026766600505740177	0.01095366100030517	0.03631490559826411	True
966	qkv_head_3_11_6_6	11		cal-zh-1	2.143896457218176	1.1361291636158088	-0.009394231638017682	0.015090444229560003	0.028475943543812037	True
967	qkv_head_3_11_6_6	11		cal-zh-2	2.4906589789568576	1.1042052248626777	-0.025623845303146466	0.015120240696746478	0.03410540215477059	True
968	qkv_head_3_11_6_6	11		cal-en-1	2.5304943015385772	1.1003512942364628	-0.024940622241601616	0.014774840221360943	0.033977920671452694	True
969	qkv_head_3_11_6_6	11		cal-en-2	2.3969488265029035	1.0986402046134494	0.0033532601262304318	0.013660410215322117	0.02980348261211247	True
970	qkv_head_3_11_6_7	3		cal-zh-1	3.1366993476839395	1.047182074911815	0.02226228944851111	0.010561068410279402	0.03163432337796513	True
971	qkv_head_3_11_6_7	3		cal-zh-2	3.5023417902372196	1.0418754856614876	0.005024927230525382	0.010071504051652823	0.033856108542808995	True
972	qkv_head_3_11_6_7	3		cal-en-1	3.4378674430004774	1.0499400715043685	-0.014901985308375793	0.011032274592116392	0.03612348806550003	True
973	qkv_head_3_11_6_7	3		cal-en-2	3.1659329684860897	1.0647945742903278	-0.030729440508299996	0.01095366100030517	0.03256830690520684	True
974	qkv_head_3_11_6_7	11		cal-zh-1	1.4369441632194315	1.3476912609682887	0.033778218040013866	0.015090444229560003	0.016089831836169206	True
975	qkv_head_3_11_6_7	11		cal-zh-2	1.5501432847558252	1.2866030666265809	0.020202396842900414	0.015120240696746478	0.01821738202552879	True
976	qkv_head_3_11_6_7	11		cal-en-1	1.646897876791361	1.2281668309246028	0.0320100600693753	0.014774840221360943	0.019812172400204414	True
977	qkv_head_3_11_6_7	11		cal-en-2	1.5798535166739942	1.2867560969404868	0.004686024663288145	0.013660410215322117	0.016771979685349925	True
978	qkv_head_3_11_7_0	3		cal-zh-1	2.810616208571906	1.0761333858221183	-0.01497160037147971	0.013207376044485524	0.034494669222604434	True
979	qkv_head_3_11_7_0	3		cal-zh-2	2.5105895249329304	1.092970769282486	-0.005812029211055207	0.013705252876455444	0.0314814131129731	True
980	qkv_head_3_11_7_0	3		cal-en-1	2.2660589496384893	1.10576498177442	0.01577652386971141	0.015679658311865633	0.03213253325119777	True
981	qkv_head_3_11_7_0	3		cal-en-2	2.610385163966368	1.0754013611768736	0.016058805396493837	0.013715317639641058	0.033291999599502804	True
982	qkv_head_3_11_7_0	11		cal-zh-1	1.2905981387415808	1.7532816913426121	-0.08408731288167205	0.01812478972735774	0.0133417351032153	True
983	qkv_head_3_11_7_0	11		cal-zh-2	1.3797760448878504	1.5992881486368598	-0.09241152352031339	0.019936867984360628	0.01720041061916134	True
984	qkv_head_3_11_7_0	11		cal-en-1	1.3879659411775511	1.56845225503836	-0.08099731472765948	0.019345777870916663	0.017119603548124567	True
985	qkv_head_3_11_7_0	11		cal-en-2	1.3495828290926832	1.5888606320376306	-0.05879926088749769	0.017584460964594165	0.014936292144284677	True
986	qkv_head_3_11_7_1	3		cal-zh-1	1.186542452944437	1.5343509486325253	0.12293700187825583	0.013207376044485524	0.01021351235370902	True
987	qkv_head_3_11_7_1	3		cal-zh-2	1.1969839546031047	1.546720328187705	0.10733355637246018	0.013705252876455444	0.010606292222277146	True
988	qkv_head_3_11_7_1	3		cal-en-1	1.1131834954817947	1.7421204129955576	0.13233584765672413	0.015679658311865633	0.010019018615108363	True
989	qkv_head_3_11_7_1	3		cal-en-2	1.2171336629615972	1.4566606440087033	0.1297047854711803	0.013715317639641058	0.01146003008049855	True
990	qkv_head_3_11_7_1	11		cal-zh-1	1.07181936671511	2.124068296076424	0.1048651055082355	0.01812478972735774	0.00914589266423575	True
991	qkv_head_3_11_7_1	11		cal-zh-2	1.0296361054781324	2.390094549246843	0.14558282521177562	0.019936867984360628	0.008588664039804348	True
992	qkv_head_3_11_7_1	11		cal-en-1	1.0329774392072755	2.3169390604271984	0.14773147196767658	0.019345777870916663	0.008625065900907924	True
993	qkv_head_3_11_7_1	11		cal-en-2	1.0696541966471294	2.0273025679813443	0.127199733208156	0.017584460964594165	0.009277989760198864	True
994	qkv_head_3_11_7_2	3		cal-zh-1	1.7635740344735502	1.1772163220206828	0.04474878688141588	0.013207376044485524	0.01978581592854727	True
995	qkv_head_3_11_7_2	3		cal-zh-2	1.7771976056780576	1.1940983185048377	0.01903427793434381	0.013705252876455444	0.020397769781425455	True
996	qkv_head_3_11_7_2	3		cal-en-1	1.6906650023521492	1.2207882865110165	0.021513961869892823	0.015679658311865633	0.0217146984859049	True
997	qkv_head_3_11_7_2	3		cal-en-2	1.8791074061401707	1.1604166116467496	0.02816361057276132	0.013715317639641058	0.022209743203900324	True
998	qkv_head_3_11_7_2	11		cal-zh-1	1.1339823251387149	1.8918332307725665	0.06120653622778481	0.01812478972735774	0.010864166493833143	True
999	qkv_head_3_11_7_2	11		cal-zh-2	1.2461878012499437	1.5644359583176988	0.051184792968488345	0.019936867984360628	0.01588117528566506	True
1000	qkv_head_3_11_7_2	11		cal-en-1	1.2047011101586125	1.6359436303047095	0.06176926889682101	0.019345777870916663	0.014246138831589381	True
1001	qkv_head_3_11_7_2	11		cal-en-2	1.1312476312242328	1.8069784022360558	0.08961804253477919	0.017584460964594165	0.011008642819380795	True
1002	qkv_head_3_11_7_3	3		cal-zh-1	2.148047210091186	1.1115208086048576	0.031193577407148326	0.013207376044485524	0.025523649260863968	True
1003	qkv_head_3_11_7_3	3		cal-zh-2	1.9492891805553902	1.1436147047763088	0.030972672934891313	0.013705252876455444	0.023360578556110637	True
1004	qkv_head_3_11_7_3	3		cal-en-1	1.877795413926632	1.1603488468176626	0.02866809338423994	0.015679658311865633	0.025374429897274325	True
1005	qkv_head_3_11_7_3	3		cal-en-2	2.437122555593579	1.0874555336160068	0.018533080105367895	0.013715317639641058	0.030737725767555655	True
1006	qkv_head_3_11_7_3	11		cal-zh-1	1.182162801998603	1.6082158018474222	0.09715280654381547	0.01812478972735774	0.013323120059581117	True
1007	qkv_head_3_11_7_3	11		cal-zh-2	1.2708175478295702	1.440487858972276	0.09256438720433942	0.019936867984360628	0.01758857009830214	True
1008	qkv_head_3_11_7_3	11		cal-en-1	1.3130271552987998	1.4036290967022693	0.08072543349020939	0.019345777870916663	0.01809703984091762	True
1009	qkv_head_3_11_7_3	11		cal-en-2	1.2597340105716994	1.5179624288948892	0.06132120298323103	0.017584460964594165	0.014593077610489127	True
1010	qkv_head_3_11_7_4	3		cal-zh-1	3.1127019632072	1.0654225865380245	-0.026247577690323896	0.013207376044485524	0.03858621533082977	True
1011	qkv_head_3_11_7_4	3		cal-zh-2	2.6006811825873744	1.0917810898650586	-0.018757510186536805	0.013705252876455444	0.032646648297237436	True
1012	qkv_head_3_11_7_4	3		cal-en-1	2.464439760382983	1.1066975315501155	-0.025740764679936533	0.015679658311865633	0.03491611056442602	True
1013	qkv_head_3_11_7_4	3		cal-en-2	2.8635759977450204	1.085357628208549	-0.045305687082193666	0.013715317639641058	0.036186095139120765	True
1014	qkv_head_3_11_7_4	11		cal-zh-1	1.3382969398279896	1.4952722162743826	0.005597751328430297	0.01812478972735774	0.016222029917459257	True
1015	qkv_head_3_11_7_4	11		cal-zh-2	1.4184172963175186	1.4011331939312177	0.006379380508657137	0.019936867984360628	0.020182805250707894	True
1016	qkv_head_3_11_7_4	11		cal-en-1	1.3681474702314562	1.455634855506991	0.006160082871414037	0.019345777870916663	0.018183047042065834	True
1017	qkv_head_3_11_7_4	11		cal-en-2	1.5220680910495152	1.3187911366424954	0.006647909115530114	0.017584460964594165	0.02029490962507893	True
1018	qkv_head_3_11_7_5	3		cal-zh-1	2.035769131885456	1.1677003580793421	-0.030088161981804053	0.013207376044485524	0.023025743101416567	True
1019	qkv_head_3_11_7_5	3		cal-zh-2	1.8163095136224967	1.1952307894701137	0.0033881587736121787	0.013705252876455444	0.02082692431069652	True
1020	qkv_head_3_11_7_5	3		cal-en-1	1.6418254951640976	1.2631131040108117	-0.0023260619976333058	0.015679658311865633	0.02038080571734952	True
1021	qkv_head_3_11_7_5	3		cal-en-2	1.7150215345253899	1.223133834386402	0.008820685509008103	0.013715317639641058	0.019230982287919828	True
1022	qkv_head_3_11_7_5	11		cal-zh-1	1.1497189336592615	2.1041032008812497	-0.021303742826650596	0.01812478972735774	0.009903703349440483	True
1023	qkv_head_3_11_7_5	11		cal-zh-2	1.225797690966169	1.7921487810551482	-0.025401587806475966	0.019936867984360628	0.013636460877951279	True
1024	qkv_head_3_11_7_5	11		cal-en-1	1.1916086035472007	1.9242267303351903	-0.029422256934877516	0.019345777870916663	0.011980186632830786	True
1025	qkv_head_3_11_7_5	11		cal-en-2	1.2149792183716857	1.7941112057581476	-0.012971936602106438	0.017584460964594165	0.011908266650183375	True
1026	qkv_head_3_11_7_6	3		cal-zh-1	3.293651217621158	1.0491988859040444	0.0010312559673973122	0.013207376044485524	0.04146067135118807	True
1027	qkv_head_3_11_7_6	3		cal-zh-2	3.001078301758646	1.0673819267514209	-0.018002524182945963	0.013705252876455444	0.03853403921951965	True
1028	qkv_head_3_11_7_6	3		cal-en-1	2.4840234524949807	1.0972418663670294	-0.009987671833137849	0.015679658311865633	0.03549685822939033	True
1029	qkv_head_3_11_7_6	3		cal-en-2	2.8195537859500384	1.0648816275101596	0.011474485702194689	0.013715317639641058	0.03631490559826411	True
1030	qkv_head_3_11_7_6	11		cal-zh-1	1.9032164410591355	1.211387350405918	-0.048966381953163135	0.01812478972735774	0.028475943543812037	True
1031	qkv_head_3_11_7_6	11		cal-zh-2	2.0575903116919054	1.2027979093735126	-0.08981451879997485	0.019936867984360628	0.03410540215477059	True
1032	qkv_head_3_11_7_6	11		cal-en-1	2.099437205187656	1.1953422994368894	-0.09191738281585185	0.019345777870916663	0.033977920671452694	True
1033	qkv_head_3_11_7_6	11		cal-en-2	2.0193740265380034	1.1914581998595482	-0.060555006449889204	0.017584460964594165	0.02980348261211247	True
1034	qkv_head_3_11_7_7	3		cal-zh-1	2.639993943521423	1.1022013131325126	-0.04855105182797756	0.013207376044485524	0.03163432337796513	True
1035	qkv_head_3_11_7_7	3		cal-zh-2	2.703052867664707	1.0942197637076456	-0.04131168669244903	0.013705252876455444	0.033856108542808995	True
1036	qkv_head_3_11_7_7	3		cal-en-1	2.564167320818962	1.1129951618180405	-0.058002292826381016	0.015679658311865633	0.03612348806550003	True
1037	qkv_head_3_11_7_7	3		cal-en-2	2.646158345273896	1.1143625714364709	-0.07653072023138958	0.013715317639641058	0.03256830690520684	True
1038	qkv_head_3_11_7_7	11		cal-zh-1	1.3250785847695306	1.492667603099736	0.018149030230148525	0.01812478972735774	0.016089831836169206	True
1039	qkv_head_3_11_7_7	11		cal-zh-2	1.3385954096393604	1.4649415557654157	0.02358825984707725	0.019936867984360628	0.01821738202552879	True
1040	qkv_head_3_11_7_7	11		cal-en-1	1.4155731380756797	1.3822494038546724	0.021946201744948296	0.019345777870916663	0.019812172400204414	True
1041	qkv_head_3_11_7_7	11		cal-en-2	1.3725723494346207	1.4390635662882887	0.013509707144697024	0.017584460964594165	0.016771979685349925	True
1042	full_attention_3_15	3		cal-zh-1	2.383309379919473	1.0570197304154947	0.08952432994912783	0.029520958454847816	0.0665622174923789	True
1043	full_attention_3_15	3		cal-zh-2	2.4201534917914556	1.0582308849091846	0.08157858654527167	0.02722234371521061	0.06225697164637944	True
1044	full_attention_3_15	3		cal-en-1	1.9432865010283538	1.0969683397604462	0.10213700122667559	0.03214367677215693	0.056942731071338	True
1045	full_attention_3_15	3		cal-en-2	2.322594234671142	1.045860376359894	0.12096944636477112	0.02765954667582663	0.06142493309334996	True
1046	full_attention_3_15	15		cal-zh-1	1.2151923468493337	1.574405600615686	0.0771191609282573	0.06358939862640123	0.04908096777687774	True
1047	full_attention_3_15	15		cal-zh-2	1.3241908684755814	1.4136914985125881	0.06614083638875147	0.056454866024743026	0.05288071559433757	True
1048	full_attention_3_15	15		cal-en-1	1.259352244589594	1.4956646517937318	0.07303955196301087	0.057259923361214916	0.04821295530618646	True
1049	full_attention_3_15	15		cal-en-2	1.2697771576318637	1.4239930200091504	0.10249956352457562	0.05930133891778081	0.05287911142591112	True
1050	qkv_head_3_15_0_0	3		cal-zh-1	2.114398664419991	1.1254519471137923	0.015668283721726805	0.014857293594532826	0.027912557096495618	True
1051	qkv_head_3_15_0_0	3		cal-zh-2	2.5016456708841863	1.0785586268553666	0.026201118728399222	0.013816240818171524	0.032045860252812274	True
1052	qkv_head_3_15_0_0	3		cal-en-1	1.6570889926805439	1.2303860808736022	0.02522167072016192	0.01830340678414811	0.024651102919687584	True
1053	qkv_head_3_15_0_0	3		cal-en-2	2.1640859939977277	1.1095477832836174	0.030987232823691032	0.013985067666189349	0.027276778447471964	True
1054	qkv_head_3_15_0_0	15		cal-zh-1	1.1932759568504328	1.741706129902472	0.033191701805969136	0.027054025352933875	0.018535226715591647	True
1055	qkv_head_3_15_0_0	15		cal-zh-2	1.2950169095370017	1.5258410772002722	0.025486799985711805	0.02647429257421209	0.022469349569840258	True
1056	qkv_head_3_15_0_0	15		cal-en-1	1.274636607037775	1.5570093648972907	0.027777492382666455	0.023877795944587485	0.019547417949125203	True
1057	qkv_head_3_15_0_0	15		cal-en-2	1.29286766228741	1.560636118381676	0.008919792463874511	0.02439594831398501	0.02021017730814336	True
1058	qkv_head_3_15_0_1	3		cal-zh-1	2.6153648837734766	1.0688800738326818	0.030004177964004314	0.014857293594532826	0.03635323071906785	True
1059	qkv_head_3_15_0_1	3		cal-zh-2	2.4702433951313956	1.0460105258021717	0.1005646618768946	0.013816240818171524	0.03262823536164662	True
1060	qkv_head_3_15_0_1	3		cal-en-1	1.9150201695503646	1.1401239420184393	0.04582900353375665	0.01830340678414811	0.030743493642519888	True
1061	qkv_head_3_15_0_1	3		cal-en-2	2.3753956984360385	1.0692411010457779	0.06591635176106879	0.013985067666189349	0.03106882960644892	True
1062	qkv_head_3_15_0_1	15		cal-zh-1	1.2511598931200576	1.2795706317104787	0.19977836396255608	0.027054025352933875	0.026453335697300438	True
1063	qkv_head_3_15_0_1	15		cal-zh-2	1.3085916598648053	1.2792667614497468	0.16323794154948246	0.02647429257421209	0.027081168296887392	True
1064	qkv_head_3_15_0_1	15		cal-en-1	1.4487052090037158	1.149771464526664	0.19398434159920225	0.023877795944587485	0.03008588091781563	True
1065	qkv_head_3_15_0_1	15		cal-en-2	1.5201187524691873	1.1157571946968445	0.2001600001392843	0.02439594831398501	0.03323728378595285	True
1066	qkv_head_3_15_0_2	3		cal-zh-1	2.801201255710956	1.057196469422472	0.032819385358109555	0.014857293594532826	0.039366636833555665	True
1067	qkv_head_3_15_0_2	3		cal-zh-2	2.942325606798238	1.0506951084620104	0.032985348198623254	0.013816240818171524	0.038690461982356275	True
1068	qkv_head_3_15_0_2	3		cal-en-1	2.0069233778076967	1.1480616184596426	0.008038057072665828	0.01830340678414811	0.031996135379838156	True
1069	qkv_head_3_15_0_2	3		cal-en-2	2.5761400336887363	1.0710333883748617	0.030951882507758436	0.013985067666189349	0.03363806682383898	True
1070	qkv_head_3_15_0_2	15		cal-zh-1	1.155341348328676	1.693258156043483	0.09580928308050228	0.027054025352933875	0.018459461729103368	True
1071	qkv_head_3_15_0_2	15		cal-zh-2	1.318865219831946	1.4458567298621545	0.050783494799234795	0.02647429257421209	0.024149020421347225	True
1072	qkv_head_3_15_0_2	15		cal-en-1	1.3481809778607052	1.4302002051973783	0.03766008555114736	0.023877795944587485	0.022508450333559877	True
1073	qkv_head_3_15_0_2	15		cal-en-2	1.253768439362681	1.4568116256057155	0.09803341877406224	0.02439594831398501	0.02099576191374788	True
1074	qkv_head_3_15_0_3	3		cal-zh-1	4.4853124699840405	1.0355528381570118	-0.04128997900019241	0.014857293594532826	0.06435171801409144	True
1075	qkv_head_3_15_0_3	3		cal-zh-2	4.1033350887200175	1.0471468891227464	-0.061507262844217966	0.013816240818171524	0.054140127170605075	True
1076	qkv_head_3_15_0_3	3		cal-en-1	2.744297040238177	1.0783975250372877	-0.01084599469298977	0.01830340678414811	0.04657835714364814	True
1077	qkv_head_3_15_0_3	3		cal-en-2	3.620054830926505	1.0513503612261588	-0.03613951016163669	0.013985067666189349	0.04815398713210921	True
1078	qkv_head_3_15_0_3	15		cal-zh-1	2.00561552305044	1.2437886642502143	-0.1309518477705029	0.027054025352933875	0.04362475295717022	True
1079	qkv_head_3_15_0_3	15		cal-zh-2	2.146186724816651	1.1838049452768704	-0.08806241463786378	0.02647429257421209	0.04799673755239901	True
1080	qkv_head_3_15_0_3	15		cal-en-1	2.193795593463192	1.1707157915129627	-0.08038503552080813	0.023877795944587485	0.0447444238000349	True
1081	qkv_head_3_15_0_3	15		cal-en-2	2.096284995740563	1.209370213179802	-0.11245216938677703	0.02439594831398501	0.042287183734254705	True
1082	qkv_head_3_15_0_4	3		cal-zh-1	1.975850099932241	1.1453345930093002	0.0208932147758492	0.014857293594532826	0.025630750361210788	True
1083	qkv_head_3_15_0_4	3		cal-zh-2	1.9268547040954578	1.1584260246595712	0.016210228171956085	0.013816240818171524	0.022981086445492193	True
1084	qkv_head_3_15_0_4	3		cal-en-1	1.4421741559311585	1.3738468814457794	0.010514920947245605	0.01830340678414811	0.019213713395640312	True
1085	qkv_head_3_15_0_4	3		cal-en-2	1.8700247121583247	1.175723014613437	0.010310586600211153	0.013985067666189349	0.02224369329503941	True
1086	qkv_head_3_15_0_4	15		cal-zh-1	1.1705870900867437	1.9371601742027569	-0.004236326504982445	0.027054025352933875	0.01634820560259419	True
1087	qkv_head_3_15_0_4	15		cal-zh-2	1.4652305925504925	1.3726978925719153	-0.003530944473422494	0.02647429257421209	0.02825890795474914	True
1088	qkv_head_3_15_0_4	15		cal-en-1	1.2744161253152189	1.6343614687091759	-0.010326632198971931	0.023877795944587485	0.01861904405565957	True
1089	qkv_head_3_15_0_4	15		cal-en-2	1.3400169432081805	1.4914646553667719	0.006444199585116693	0.02439594831398501	0.021918711897555357	True
1090	qkv_head_3_15_0_5	3		cal-zh-1	2.043530734209447	1.1434012490842518	0.005092660275308248	0.014857293594532826	0.026553527129620794	True
1091	qkv_head_3_15_0_5	3		cal-zh-2	1.9422377048020805	1.1549066923726707	0.016625237359716893	0.013816240818171524	0.02323514447781832	True
1092	qkv_head_3_15_0_5	3		cal-en-1	1.5352675550874688	1.3127387799215056	0.004582507544708159	0.01830340678414811	0.02140610684553001	True
1093	qkv_head_3_15_0_5	3		cal-en-2	2.0078878282653396	1.165687906687627	-0.01876224505525624	0.013985067666189349	0.024089163989185623	True
1094	qkv_head_3_15_0_5	15		cal-zh-1	1.256333286842965	1.6564777651329503	-0.002074875083478398	0.027054025352933875	0.020518761742181518	True
1095	qkv_head_3_15_0_5	15		cal-zh-2	1.2003552829822537	1.743558056746467	0.02404872135096721	0.02647429257421209	0.018226268309053672	True
1096	qkv_head_3_15_0_5	15		cal-en-1	1.2823471301922729	1.6145207793460168	-0.008540872559119263	0.023877795944587485	0.01896514649830728	True
1097	qkv_head_3_15_0_5	15		cal-en-2	1.230047739856796	1.6944169434388379	0.009624574659351091	0.02439594831398501	0.017710033649910594	True
1098	qkv_head_3_15_0_6	3		cal-zh-1	1.6990575666569467	1.2666885727392312	-0.03265727071315546	0.014857293594532826	0.019928653060511628	True
1099	qkv_head_3_15_0_6	3		cal-zh-2	1.8042819571563995	1.2305130761157534	-0.03595614028462947	0.013816240818171524	0.020258536465653662	True
1100	qkv_head_3_15_0_6	3		cal-en-1	1.3892046354348595	1.4900479991817754	-0.03253439894269894	0.01830340678414811	0.017064670106433578	True
1101	qkv_head_3_15_0_6	3		cal-en-2	1.6921779760786206	1.2709139543639334	-0.03404750491406377	0.013985067666189349	0.018620633928391174	True
1102	qkv_head_3_15_0_6	15		cal-zh-1	1.2325187470313657	1.7214673322522867	-0.00453203630822588	0.027054025352933875	0.019369867092700718	True
1103	qkv_head_3_15_0_6	15		cal-zh-2	1.242052777906578	1.6994139213367554	-0.005830245890560893	0.02647429257421209	0.01934929932140743	True
1104	qkv_head_3_15_0_6	15		cal-en-1	1.2653568914113218	1.6763590394894563	-0.020778353477034713	0.023877795944587485	0.0180235456357839	True
1105	qkv_head_3_15_0_6	15		cal-en-2	1.2797893926917148	1.581104088584048	0.010694134966662642	0.02439594831398501	0.01974675551237983	True
1106	qkv_head_3_15_0_7	3		cal-zh-1	1.7193921476639757	1.2657039595797432	-0.04082979286539616	0.014857293594532826	0.020182850617343418	True
1107	qkv_head_3_15_0_7	3		cal-zh-2	1.7610211725673193	1.2198236352540546	-0.005893431157832464	0.013816240818171524	0.019946074090474143	True
1108	qkv_head_3_15_0_7	3		cal-en-1	1.4479669079077486	1.4499044932253822	-0.04970596879301668	0.01830340678414811	0.018278946957715852	True
1109	qkv_head_3_15_0_7	3		cal-en-2	1.770655287413069	1.249020305051653	-0.04427453014456807	0.013985067666189349	0.0198257257370557	True
1110	qkv_head_3_15_0_7	15		cal-zh-1	1.196890357114912	1.7813409955977832	0.014070922626138327	0.027054025352933875	0.018177711143509936	True
1111	qkv_head_3_15_0_7	15		cal-zh-2	1.192373047955233	1.7305641836229362	0.03844578013451285	0.02647429257421209	0.018241006735205775	True
1112	qkv_head_3_15_0_7	15		cal-en-1	1.246329283453333	1.6952941747859807	-0.008747549814328966	0.023877795944587485	0.017554237342801916	True
1113	qkv_head_3_15_0_7	15		cal-en-2	1.2622276348632944	1.6065392240423721	0.015321937537943442	0.02439594831398501	0.019167437482868647	True
1114	qkv_head_3_15_1_0	3		cal-zh-1	2.8227663555265994	1.0591321333757726	0.025348679762244045	0.010473090019549047	0.027912557096495618	True
1115	qkv_head_3_15_1_0	3		cal-zh-2	2.8395867754478172	1.0645081266112602	0.009814406176240664	0.012013395384963238	0.032045860252812274	True
1116	qkv_head_3_15_1_0	3		cal-en-1	2.2408817160463563	1.1090409133182781	0.015120720247273307	0.012200144925359209	0.024651102919687584	True
1117	qkv_head_3_15_1_0	3		cal-en-2	3.0298413246221148	1.0591269505575909	0.0006377921149554859	0.009535011270502469	0.027276778447471964	True
1118	qkv_head_3_15_1_0	15		cal-zh-1	1.3038057711441786	1.533497691184984	0.013502093954421274	0.021800584107712812	0.018535226715591647	True
1119	qkv_head_3_15_1_0	15		cal-zh-2	1.5142242176844076	1.319007139666663	0.01090416030954144	0.019572552175666173	0.022469349569840258	True
1120	qkv_head_3_15_1_0	15		cal-en-1	1.322192808188755	1.469901468841066	0.033866474568658274	0.02173115613510998	0.019547417949125203	True
1121	qkv_head_3_15_1_0	15		cal-en-2	1.4141389106107665	1.3899155434145893	0.017382438989946326	0.019863988866285435	0.02021017730814336	True
1122	qkv_head_3_15_1_1	3		cal-zh-1	3.5828423639643048	1.0321897080792448	0.03051389942849289	0.010473090019549047	0.03635323071906785	True
1123	qkv_head_3_15_1_1	3		cal-zh-2	2.9052551076704773	1.0696863595527286	-0.011766894511063108	0.012013395384963238	0.03262823536164662	True
1124	qkv_head_3_15_1_1	3		cal-en-1	2.708193860214321	1.074710570137876	0.003120319946940543	0.012200144925359209	0.030743493642519888	True
1125	qkv_head_3_15_1_1	3		cal-en-2	3.4018736026927243	1.044033636071282	0.006811884313412665	0.009535011270502469	0.03106882960644892	True
1126	qkv_head_3_15_1_1	15		cal-zh-1	1.566730570863228	1.291165771117262	0.007314558431998723	0.021800584107712812	0.026453335697300438	True
1127	qkv_head_3_15_1_1	15		cal-zh-2	1.706835513012589	1.2335925380870119	0.0004134833192705297	0.019572552175666173	0.027081168296887392	True
1128	qkv_head_3_15_1_1	15		cal-en-1	1.7015799360296198	1.2290582206065195	0.007710845440822212	0.02173115613510998	0.03008588091781563	True
1129	qkv_head_3_15_1_1	15		cal-en-2	1.9450256525996739	1.1624285593460044	0.004965784861891903	0.019863988866285435	0.03323728378595285	True
1130	qkv_head_3_15_1_2	3		cal-zh-1	3.900065102360439	1.0375723248043942	-0.01086150370668869	0.010473090019549047	0.039366636833555665	True
1131	qkv_head_3_15_1_2	3		cal-zh-2	3.4324622140741625	1.0657801331093841	-0.06356990007376848	0.012013395384963238	0.038690461982356275	True
1132	qkv_head_3_15_1_2	3		cal-en-1	2.7885883816339523	1.063290362702522	0.01941215995455187	0.012200144925359209	0.031996135379838156	True
1133	qkv_head_3_15_1_2	3		cal-en-2	3.6838135050167407	1.0442099265903988	-0.01768402697513532	0.009535011270502469	0.03363806682383898	True
1134	qkv_head_3_15_1_2	15		cal-zh-1	1.3456675281972454	1.589230420691525	-0.05541816871200549	0.021800584107712812	0.018459461729103368	True
1135	qkv_head_3_15_1_2	15		cal-zh-2	1.6403026889532897	1.3294497831905314	-0.06819440582498908	0.019572552175666173	0.024149020421347225	True
1136	qkv_head_3_15_1_2	15		cal-en-1	1.47895987373078	1.4278863030248883	-0.0552756658998608	0.02173115613510998	0.022508450333559877	True
1137	qkv_head_3_15_1_2	15		cal-en-2	1.4820787378998561	1.4021875304903322	-0.03754051857032404	0.019863988866285435	0.02099576191374788	True
1138	qkv_head_3_15_1_3	3		cal-zh-1	6.236171311169144	1.0149221424811372	-0.010999121540987132	0.010473090019549047	0.06435171801409144	True
1139	qkv_head_3_15_1_3	3		cal-zh-2	4.572292348334394	1.0145664346722523	0.04482335481532085	0.012013395384963238	0.054140127170605075	True
1140	qkv_head_3_15_1_3	3		cal-en-1	3.9644992499053933	1.0384107205876305	-0.01849920736949231	0.012200144925359209	0.04657835714364814	True
1141	qkv_head_3_15_1_3	3		cal-en-2	5.135421502699745	1.016869107280463	0.013094005620539593	0.009535011270502469	0.04815398713210921	True
1142	qkv_head_3_15_1_3	15		cal-zh-1	2.188061248014277	1.0934391609505287	0.0541498355032366	0.021800584107712812	0.04362475295717022	True
1143	qkv_head_3_15_1_3	15		cal-zh-2	2.611595653482024	1.0649805548495037	0.03936894879469136	0.019572552175666173	0.04799673755239901	True
1144	qkv_head_3_15_1_3	15		cal-en-1	2.260260762699604	1.0977475039079518	0.03173805399167083	0.02173115613510998	0.0447444238000349	True
1145	qkv_head_3_15_1_3	15		cal-en-2	2.3120437512021037	1.0860598241977686	0.043779399765201656	0.019863988866285435	0.042287183734254705	True
1146	qkv_head_3_15_1_4	3		cal-zh-1	2.646686589921914	1.0814738749020403	-0.003206117857228161	0.010473090019549047	0.025630750361210788	True
1147	qkv_head_3_15_1_4	3		cal-zh-2	2.156573911849517	1.1273520571533724	0.0022442577466534985	0.012013395384963238	0.022981086445492193	True
1148	qkv_head_3_15_1_4	3		cal-en-1	1.869016943746048	1.1867709854997461	-0.004124276983692992	0.012200144925359209	0.019213713395640312	True
1149	qkv_head_3_15_1_4	3		cal-en-2	2.550096258223575	1.0931276672678507	-0.013037747539963162	0.009535011270502469	0.02224369329503941	True
1150	qkv_head_3_15_1_4	15		cal-zh-1	1.2568444912763044	1.6760214979212567	-0.011542690387338319	0.021800584107712812	0.01634820560259419	True
1151	qkv_head_3_15_1_4	15		cal-zh-2	1.7369711739473142	1.2030528208716027	0.02337507689922679	0.019572552175666173	0.02825890795474914	True
1152	qkv_head_3_15_1_4	15		cal-en-1	1.3083460254989268	1.5270317677896796	0.013025542424984757	0.02173115613510998	0.01861904405565957	True
1153	qkv_head_3_15_1_4	15		cal-en-2	1.4927069092988545	1.3527762746973668	-0.004800883406360084	0.019863988866285435	0.021918711897555357	True
1154	qkv_head_3_15_1_5	3		cal-zh-1	2.7195505598371144	1.0726295488676143	0.00637460112550041	0.010473090019549047	0.026553527129620794	True
1155	qkv_head_3_15_1_5	3		cal-zh-2	2.1951948045345033	1.1349937229383764	-0.020196876131922	0.012013395384963238	0.02323514447781832	True
1156	qkv_head_3_15_1_5	3		cal-en-1	2.023897753478266	1.1534954059943823	-0.0050205464673763476	0.012200144925359209	0.02140610684553001	True
1157	qkv_head_3_15_1_5	3		cal-en-2	2.708012687746617	1.0718898966323407	0.00976043667149152	0.009535011270502469	0.024089163989185623	True
1158	qkv_head_3_15_1_5	15		cal-zh-1	1.3706105793221182	1.4562336455229008	0.003871945215313877	0.021800584107712812	0.020518761742181518	True
1159	qkv_head_3_15_1_5	15		cal-zh-2	1.3956938996853643	1.498786872312269	-0.043383470913713106	0.019572552175666173	0.018226268309053672	True
1160	qkv_head_3_15_1_5	15		cal-en-1	1.3314437957003664	1.5256308730370525	-0.006363948950693878	0.02173115613510998	0.01896514649830728	True
1161	qkv_head_3_15_1_5	15		cal-en-2	1.3385652925747498	1.5013662082248593	0.00175578094621169	0.019863988866285435	0.017710033649910594	True
1162	qkv_head_3_15_1_6	3		cal-zh-1	2.153627433646553	1.1317942016785598	-0.004545062368981774	0.010473090019549047	0.019928653060511628	True
1163	qkv_head_3_15_1_6	3		cal-zh-2	1.9305222011582184	1.1448075995658995	0.034628288121267815	0.012013395384963238	0.020258536465653662	True
1164	qkv_head_3_15_1_6	3		cal-en-1	1.726519438830981	1.234350692911815	-0.008733875390230711	0.012200144925359209	0.017064670106433578	True
1165	qkv_head_3_15_1_6	3		cal-en-2	2.195578842317099	1.1242833668971162	-0.0017580954651980779	0.009535011270502469	0.018620633928391174	True
1166	qkv_head_3_15_1_6	15		cal-zh-1	1.318784749154548	1.4842785294457095	0.02827396306676386	0.021800584107712812	0.019369867092700718	True
1167	qkv_head_3_15_1_6	15		cal-zh-2	1.4030610316873264	1.419249596183657	0.004418902534158871	0.019572552175666173	0.01934929932140743	True
1168	qkv_head_3_15_1_6	15		cal-en-1	1.2999986139301012	1.567420385845345	-0.0012738605630056798	0.02173115613510998	0.0180235456357839	True
1169	qkv_head_3_15_1_6	15		cal-en-2	1.4226146522131455	1.4310604896515868	-0.017906291356179216	0.019863988866285435	0.01974675551237983	True
1170	qkv_head_3_15_1_7	3		cal-zh-1	2.139838473583275	1.1103843250900447	0.034991207186396214	0.010473090019549047	0.020182850617343418	True
1171	qkv_head_3_15_1_7	3		cal-zh-2	1.950079148784856	1.1745204464829166	-0.013897322690244613	0.012013395384963238	0.019946074090474143	True
1172	qkv_head_3_15_1_7	3		cal-en-1	1.7875751114566072	1.1931034908731402	0.01646843767403138	0.012200144925359209	0.018278946957715852	True
1173	qkv_head_3_15_1_7	3		cal-en-2	2.2897512913455897	1.1012360737352838	0.01932012150468045	0.009535011270502469	0.0198257257370557	True
1174	qkv_head_3_15_1_7	15		cal-zh-1	1.272134811652413	1.5256751380208586	0.04612809906340558	0.021800584107712812	0.018177711143509936	True
1175	qkv_head_3_15_1_7	15		cal-zh-2	1.3818828501470157	1.4827566579951503	-0.022014946826077134	0.019572552175666173	0.018241006735205775	True
1176	qkv_head_3_15_1_7	15		cal-en-1	1.2858509573221424	1.5918109898124457	-0.0005484172243108765	0.02173115613510998	0.017554237342801916	True
1177	qkv_head_3_15_1_7	15		cal-en-2	1.379095922071455	1.4292127503246785	0.015126418166765444	0.019863988866285435	0.019167437482868647	True
1178	qkv_head_3_15_2_0	3		cal-zh-1	3.072436603448359	1.051553239711513	0.01661555940446084	0.009553179977907358	0.027912557096495618	True
1179	qkv_head_3_15_2_0	3		cal-zh-2	5.133981701532711	1.0135339889509651	0.029689038217160377	0.006326389624976942	0.032045860252812274	True
1180	qkv_head_3_15_2_0	3		cal-en-1	2.570351313889725	1.077214211225047	0.018191489629538548	0.010331085188224187	0.024651102919687584	True
1181	qkv_head_3_15_2_0	3		cal-en-2	3.372484161222215	1.0406125983222312	0.019987203608316323	0.00841651374392129	0.027276778447471964	True
1182	qkv_head_3_15_2_0	15		cal-zh-1	1.200355359415125	1.782810858783713	0.009261520870458489	0.027529183919898434	0.018535226715591647	True
1183	qkv_head_3_15_2_0	15		cal-zh-2	1.6275029722533136	1.2556340706100937	0.012060804910127284	0.01733531756644215	0.022469349569840258	True
1184	qkv_head_3_15_2_0	15		cal-en-1	1.4463889165441737	1.3880648810545986	-0.002993660255409303	0.018759189910902734	0.019547417949125203	True
1185	qkv_head_3_15_2_0	15		cal-en-2	1.3263433240012699	1.5115514537054267	0.006136736735550413	0.023032289104159033	0.02021017730814336	True
1186	qkv_head_3_15_2_1	3		cal-zh-1	3.914113398825741	1.028580651933864	0.021080119685239984	0.009553179977907358	0.03635323071906785	True
1187	qkv_head_3_15_2_1	3		cal-zh-2	5.243693125555468	1.016715903216498	0.010014037395847566	0.006326389624976942	0.03262823536164662	True
1188	qkv_head_3_15_2_1	3		cal-en-1	3.126280640215398	1.0505595750409982	0.013760761726369381	0.010331085188224187	0.030743493642519888	True
1189	qkv_head_3_15_2_1	3		cal-en-2	3.7890097333643986	1.0264388102374342	0.03656274114891344	0.00841651374392129	0.03106882960644892	True
1190	qkv_head_3_15_2_1	15		cal-zh-1	1.3908695315610364	1.447435725349155	-0.005802433745510643	0.027529183919898434	0.026453335697300438	True
1191	qkv_head_3_15_2_1	15		cal-zh-2	1.8402510806609749	1.177989684031208	0.017261954012075212	0.01733531756644215	0.027081168296887392	True
1192	qkv_head_3_15_2_1	15		cal-en-1	1.889163698333576	1.1779339513651161	0.001002783843390335	0.018759189910902734	0.03008588091781563	True
1193	qkv_head_3_15_2_1	15		cal-en-2	1.7524812463464055	1.2144089443472013	0.0039049724772929856	0.023032289104159033	0.03323728378595285	True
1194	qkv_head_3_15_2_2	3		cal-zh-1	4.22059260547602	1.0242195934596323	0.020323560466705724	0.009553179977907358	0.039366636833555665	True
1195	qkv_head_3_15_2_2	3		cal-zh-2	6.179782133550131	1.0104740954537568	0.01736428979519803	0.006326389624976942	0.038690461982356275	True
1196	qkv_head_3_15_2_2	3		cal-en-1	3.2359812081907777	1.0448511088116494	0.019420429162817218	0.010331085188224187	0.031996135379838156	True
1197	qkv_head_3_15_2_2	3		cal-en-2	4.09287647988544	1.024070477222407	0.027744327077675726	0.00841651374392129	0.03363806682383898	True
1198	qkv_head_3_15_2_2	15		cal-zh-1	1.2072521632398907	1.800413648417933	-0.005839915343828007	0.027529183919898434	0.018459461729103368	True
1199	qkv_head_3_15_2_2	15		cal-zh-2	1.724542570039551	1.237958831740311	-0.01200590406582205	0.01733531756644215	0.024149020421347225	True
1200	qkv_head_3_15_2_2	15		cal-en-1	1.570106680381878	1.3085720678755566	-0.010653192684229552	0.018759189910902734	0.022508450333559877	True
1201	qkv_head_3_15_2_2	15		cal-en-2	1.361685314838758	1.4937647878221552	-0.012730521988195515	0.023032289104159033	0.02099576191374788	True
1202	qkv_head_3_15_2_3	3		cal-zh-1	6.8317659861360625	1.014193436424061	-0.022061423580448436	0.009553179977907358	0.06435171801409144	True
1203	qkv_head_3_15_2_3	3		cal-zh-2	8.618567040358235	1.007097987311233	-0.002532832696770669	0.006326389624976942	0.054140127170605075	True
1204	qkv_head_3_15_2_3	3		cal-en-1	4.630412062975177	1.0270259496625669	-0.012594691575664068	0.010331085188224187	0.04657835714364814	True
1205	qkv_head_3_15_2_3	3		cal-en-2	5.8239212400931635	1.017924289971712	-0.016078911736104318	0.00841651374392129	0.04815398713210921	True
1206	qkv_head_3_15_2_3	15		cal-zh-1	1.8594840269151633	1.1734181698018586	0.016882820075946135	0.027529183919898434	0.04362475295717022	True
1207	qkv_head_3_15_2_3	15		cal-zh-2	2.9367649196088523	1.060691936484791	0.007449864673872357	0.01733531756644215	0.04799673755239901	True
1208	qkv_head_3_15_2_3	15		cal-en-1	2.567153307272245	1.0762842010602565	0.020732842423059596	0.018759189910902734	0.0447444238000349	True
1209	qkv_head_3_15_2_3	15		cal-en-2	2.084500881505262	1.1353517236432182	0.0070088077837852	0.023032289104159033	0.042287183734254705	True
1210	qkv_head_3_15_2_4	3		cal-zh-1	2.8524994554768575	1.063193246433143	0.011460028008787041	0.009553179977907358	0.025630750361210788	True
1211	qkv_head_3_15_2_4	3		cal-zh-2	3.75067634884888	1.0325116698152588	0.017622478063904923	0.006326389624976942	0.022981086445492193	True
1212	qkv_head_3_15_2_4	3		cal-en-1	2.096255037839495	1.1271423137329575	0.017355899512936805	0.010331085188224187	0.019213713395640312	True
1213	qkv_head_3_15_2_4	3		cal-en-2	2.819691493801646	1.0669079049247636	0.006444724904783764	0.00841651374392129	0.02224369329503941	True
1214	qkv_head_3_15_2_4	15		cal-zh-1	1.1524894905746508	1.9407081072399193	0.02056561879523642	0.027529183919898434	0.01634820560259419	True
1215	qkv_head_3_15_2_4	15		cal-zh-2	1.8976953045790599	1.1641338300086548	0.01720491222307157	0.01733531756644215	0.02825890795474914	True
1216	qkv_head_3_15_2_4	15		cal-en-1	1.4087640848626324	1.419367875632917	0.0002508731580722647	0.018759189910902734	0.01861904405565957	True
1217	qkv_head_3_15_2_4	15		cal-en-2	1.3758404293403161	1.4457398170962212	0.006674524818375232	0.023032289104159033	0.021918711897555357	True
1218	qkv_head_3_15_2_5	3		cal-zh-1	2.9026588272148115	1.044291481710987	0.054048638870681495	0.009553179977907358	0.026553527129620794	True
1219	qkv_head_3_15_2_5	3		cal-zh-2	3.779379224304042	1.029037092337268	0.027944529235320946	0.006326389624976942	0.02323514447781832	True
1220	qkv_head_3_15_2_5	3		cal-en-1	2.263952519470306	1.0926361579675372	0.040478200627239176	0.010331085188224187	0.02140610684553001	True
1221	qkv_head_3_15_2_5	3		cal-en-2	2.9930879464510163	1.045755089274967	0.04074198497442775	0.00841651374392129	0.024089163989185623	True
1222	qkv_head_3_15_2_5	15		cal-zh-1	1.2080609613620825	1.620806012061538	0.06448623017920546	0.027529183919898434	0.020518761742181518	True
1223	qkv_head_3_15_2_5	15		cal-zh-2	1.4272625594100206	1.3574939915580748	0.03250599391806404	0.01733531756644215	0.018226268309053672	True
1224	qkv_head_3_15_2_5	15		cal-en-1	1.378557100159771	1.3635863264873105	0.06016880835902665	0.018759189910902734	0.01896514649830728	True
1225	qkv_head_3_15_2_5	15		cal-en-2	1.220901414543794	1.5878091991988583	0.0654427683984141	0.023032289104159033	0.017710033649910594	True
1226	qkv_head_3_15_2_6	3		cal-zh-1	2.2737885978050167	1.0899839362243011	0.04352567861177795	0.009553179977907358	0.019928653060511628	True
1227	qkv_head_3_15_2_6	3		cal-zh-2	3.3378339518399605	1.0423476601390695	0.017663187351128283	0.006326389624976942	0.020258536465653662	True
1228	qkv_head_3_15_2_6	3		cal-en-1	1.8993334425169675	1.1498713700939411	0.03659887596594367	0.010331085188224187	0.017064670106433578	True
1229	qkv_head_3_15_2_6	3		cal-en-2	2.402281536829494	1.0858296043651778	0.02796182266196781	0.00841651374392129	0.018620633928391174	True
1230	qkv_head_3_15_2_6	15		cal-zh-1	1.2134022705458503	1.7245329621939904	0.016148760280775276	0.027529183919898434	0.019369867092700718	True
1231	qkv_head_3_15_2_6	15		cal-zh-2	1.507634614942384	1.3507116919356192	-0.012143629702812173	0.01733531756644215	0.01934929932140743	True
1232	qkv_head_3_15_2_6	15		cal-en-1	1.3805690440596543	1.4369179852830936	0.008918052745639	0.018759189910902734	0.0180235456357839	True
1233	qkv_head_3_15_2_6	15		cal-en-2	1.2918229403184	1.5067609164525648	0.0386330607856502	0.023032289104159033	0.01974675551237983	True
1234	qkv_head_3_15_2_7	3		cal-zh-1	2.29125569720732	1.084523611942992	0.05054732972810449	0.009553179977907358	0.020182850617343418	True
1235	qkv_head_3_15_2_7	3		cal-zh-2	3.3162996782979253	1.051846282277579	-0.009112999309618546	0.006326389624976942	0.019946074090474143	True
1236	qkv_head_3_15_2_7	3		cal-en-1	1.9983882215343343	1.1294698214056698	0.038693245579098146	0.010331085188224187	0.018278946957715852	True
1237	qkv_head_3_15_2_7	3		cal-en-2	2.538409220069534	1.0776178573115167	0.022332169868383323	0.00841651374392129	0.0198257257370557	True
1238	qkv_head_3_15_2_7	15		cal-zh-1	1.1841907613942333	1.7933943943380162	0.025516537258598527	0.027529183919898434	0.018177711143509936	True
1239	qkv_head_3_15_2_7	15		cal-zh-2	1.4476452717971011	1.3757678440919727	0.0054851159116892124	0.01733531756644215	0.018241006735205775	True
1240	qkv_head_3_15_2_7	15		cal-en-1	1.3571494789630987	1.4503065166651	0.018063152363568466	0.018759189910902734	0.017554237342801916	True
1241	qkv_head_3_15_2_7	15		cal-en-2	1.2858097629049507	1.545075715971227	0.023580714194058737	0.023032289104159033	0.019167437482868647	True
1242	qkv_head_3_15_3_0	3		cal-zh-1	2.2956095348291083	1.1071595097163298	0.007055505221230329	0.013462068597038523	0.027912557096495618	True
1243	qkv_head_3_15_3_0	3		cal-zh-2	2.8397687883150833	1.0625392626264907	0.014711487135698417	0.011990407410406662	0.032045860252812274	True
1244	qkv_head_3_15_3_0	3		cal-en-1	2.181712758798492	1.1096042943800892	0.026981644866348773	0.012537383553623561	0.024651102919687584	True
1245	qkv_head_3_15_3_0	3		cal-en-2	2.522698439657093	1.0873841639231192	0.003933786910134569	0.0117573850525916	0.027276778447471964	True
1246	qkv_head_3_15_3_0	15		cal-zh-1	1.2232966857506098	1.780771745481707	-0.017874672960333873	0.0269820137794049	0.018535226715591647	True
1247	qkv_head_3_15_3_0	15		cal-zh-2	1.2875743516535674	1.552414773955847	0.018120482637141635	0.027091057062919574	0.022469349569840258	True
1248	qkv_head_3_15_3_0	15		cal-en-1	1.2622537174089563	1.6301363229133536	0.004063703958470842	0.02524449370087579	0.019547417949125203	True
1249	qkv_head_3_15_3_0	15		cal-en-2	1.327483390963935	1.553324825471066	-0.01863884070923533	0.023648484307675955	0.02021017730814336	True
1250	qkv_head_3_15_3_1	3		cal-zh-1	2.8680364295411334	1.0620707538116214	0.012337302352145665	0.013462068597038523	0.03635323071906785	True
1251	qkv_head_3_15_3_1	3		cal-zh-2	2.9000043788226355	1.0657099168446074	-0.0009414565554771882	0.011990407410406662	0.03262823536164662	True
1252	qkv_head_3_15_3_1	3		cal-en-1	2.651857687561709	1.081443681878871	-0.0039413833399504095	0.012537383553623561	0.030743493642519888	True
1253	qkv_head_3_15_3_1	3		cal-en-2	2.8408170039274325	1.0750510979078376	-0.016549161332747298	0.0117573850525916	0.03106882960644892	True
1254	qkv_head_3_15_3_1	15		cal-zh-1	1.3809564656817004	1.4085553070565846	0.027619014018995882	0.0269820137794049	0.026453335697300438	True
1255	qkv_head_3_15_3_1	15		cal-zh-2	1.4012152188611904	1.4017268766046138	0.0179395505513966	0.027091057062919574	0.027081168296887392	True
1256	qkv_head_3_15_3_1	15		cal-en-1	1.5265768585319843	1.2809217717235928	0.037717741608910886	0.02524449370087579	0.03008588091781563	True
1257	qkv_head_3_15_3_1	15		cal-en-2	1.7111220006845191	1.217471380703165	0.016867354257196144	0.023648484307675955	0.03323728378595285	True
1258	qkv_head_3_15_3_2	3		cal-zh-1	3.061964544127473	1.0470891102286912	0.030040141430230326	0.013462068597038523	0.039366636833555665	True
1259	qkv_head_3_15_3_2	3		cal-zh-2	3.3323099500308015	1.0327029420543468	0.047702169703334074	0.011990407410406662	0.038690461982356275	True
1260	qkv_head_3_15_3_2	3		cal-en-1	2.7100021617709986	1.0618887603120233	0.03308907586085833	0.012537383553623561	0.031996135379838156	True
1261	qkv_head_3_15_3_2	3		cal-en-2	3.0116636472532226	1.0526552948207568	0.02014925152463123	0.0117573850525916	0.03363806682383898	True
1262	qkv_head_3_15_3_2	15		cal-zh-1	1.1853741327760194	1.7326497193516077	0.045995762278247795	0.0269820137794049	0.018459461729103368	True
1263	qkv_head_3_15_3_2	15		cal-zh-2	1.3080186683574655	1.467372496505566	0.046939855691216434	0.027091057062919574	0.024149020421347225	True
1264	qkv_head_3_15_3_2	15		cal-en-1	1.3175721834804983	1.4777313494892237	0.03307838282130101	0.02524449370087579	0.022508450333559877	True
1265	qkv_head_3_15_3_2	15		cal-en-2	1.3107461552493895	1.4763531807562102	0.03952415802331551	0.023648484307675955	0.02099576191374788	True
1266	qkv_head_3_15_3_3	3		cal-zh-1	4.909479609740092	1.0270394221271697	-0.026404422718298553	0.013462068597038523	0.06435171801409144	True
1267	qkv_head_3_15_3_3	3		cal-zh-2	4.649499425770509	1.029724074968721	-0.025472455543945536	0.011990407410406662	0.054140127170605075	True
1268	qkv_head_3_15_3_3	3		cal-en-1	3.870771323474485	1.041886139974875	-0.02428885389821739	0.012537383553623561	0.04657835714364814	True
1269	qkv_head_3_15_3_3	3		cal-en-2	4.222495010808678	1.030973812999605	-0.00674102368361295	0.0117573850525916	0.04815398713210921	True
1270	qkv_head_3_15_3_3	15		cal-zh-1	1.9161969580800031	1.1851723900357458	-0.017856352297368153	0.0269820137794049	0.04362475295717022	True
1271	qkv_head_3_15_3_3	15		cal-zh-2	2.041072539550925	1.1520535656859137	-0.007653766960829843	0.027091057062919574	0.04799673755239901	True
1272	qkv_head_3_15_3_3	15		cal-en-1	2.0597641216831835	1.16210463738457	-0.028512731813896644	0.02524449370087579	0.0447444238000349	True
1273	qkv_head_3_15_3_3	15		cal-en-2	2.063905096204268	1.1542085088201792	-0.017392682468185316	0.023648484307675955	0.042287183734254705	True
1274	qkv_head_3_15_3_4	3		cal-zh-1	2.148320108005969	1.128364650070563	0.002533153132532643	0.013462068597038523	0.025630750361210788	True
1275	qkv_head_3_15_3_4	3		cal-zh-2	2.1748167075739575	1.1347130358097612	-0.014709552402938463	0.011990407410406662	0.022981086445492193	True
1276	qkv_head_3_15_3_4	3		cal-en-1	1.816684571566289	1.185427866059715	0.015743980545002638	0.012537383553623561	0.019213713395640312	True
1277	qkv_head_3_15_3_4	3		cal-en-2	2.129136736161236	1.125401258892939	0.012164828680648993	0.0117573850525916	0.02224369329503941	True
1278	qkv_head_3_15_3_4	15		cal-zh-1	1.1584122232839948	1.911909804090056	0.020785118534246392	0.0269820137794049	0.01634820560259419	True
1279	qkv_head_3_15_3_4	15		cal-zh-2	1.443921644316893	1.3842489498607682	0.0015172557583301683	0.027091057062919574	0.02825890795474914	True
1280	qkv_head_3_15_3_4	15		cal-en-1	1.235888771644077	1.675670685212673	0.01122438445317084	0.02524449370087579	0.01861904405565957	True
1281	qkv_head_3_15_3_4	15		cal-en-2	1.359069332853389	1.4663238397057283	0.00646833980869008	0.023648484307675955	0.021918711897555357	True
1282	qkv_head_3_15_3_5	3		cal-zh-1	2.1935033611401287	1.1120591464688283	0.020071561030920386	0.013462068597038523	0.026553527129620794	True
1283	qkv_head_3_15_3_5	3		cal-zh-2	2.1597516859975077	1.1145315943761391	0.023372887994488514	0.011990407410406662	0.02323514447781832	True
1284	qkv_head_3_15_3_5	3		cal-en-1	1.9731278102394159	1.1556449912076674	0.006419471466129614	0.012537383553623561	0.02140610684553001	True
1285	qkv_head_3_15_3_5	3		cal-en-2	2.2719587223272515	1.1088925100924016	0.008786811959231053	0.0117573850525916	0.024089163989185623	True
1286	qkv_head_3_15_3_5	15		cal-zh-1	1.244978405792911	1.6371370223140191	0.018626394125444225	0.0269820137794049	0.020518761742181518	True
1287	qkv_head_3_15_3_5	15		cal-zh-2	1.184459876993889	1.7605507376647531	0.036925322816904575	0.027091057062919574	0.018226268309053672	True
1288	qkv_head_3_15_3_5	15		cal-en-1	1.2457815364117986	1.6582589621135793	0.008264833043026791	0.02524449370087579	0.01896514649830728	True
1289	qkv_head_3_15_3_5	15		cal-en-2	1.2408787268104986	1.6569647285145128	0.014054974999273596	0.023648484307675955	0.017710033649910594	True
1290	qkv_head_3_15_3_6	3		cal-zh-1	1.7893042350815367	1.208698665208274	-0.0034302459888679885	0.013462068597038523	0.019928653060511628	True
1291	qkv_head_3_15_3_6	3		cal-zh-2	1.9561740235199934	1.1577995057750257	0.008287020180287834	0.011990407410406662	0.020258536465653662	True
1292	qkv_head_3_15_3_6	3		cal-en-1	1.7096783918426597	1.2560977515640654	-0.025860968851351005	0.012537383553623561	0.017064670106433578	True
1293	qkv_head_3_15_3_6	3		cal-en-2	1.8736941449794353	1.1830823600328944	-0.000789039948152511	0.0117573850525916	0.018620633928391174	True
1294	qkv_head_3_15_3_6	15		cal-zh-1	1.2438798335199928	1.7327110530669496	-0.022207263960274615	0.0269820137794049	0.019369867092700718	True
1295	qkv_head_3_15_3_6	15		cal-zh-2	1.2304521494821836	1.7227626096999784	-0.002719824427204563	0.027091057062919574	0.01934929932140743	True
1296	qkv_head_3_15_3_6	15		cal-en-1	1.2383696961067134	1.734509769856485	-0.0166825733752191	0.02524449370087579	0.0180235456357839	True
1297	qkv_head_3_15_3_6	15		cal-en-2	1.320718697588037	1.5816773228991479	-0.02817550087685014	0.023648484307675955	0.01974675551237983	True
1298	qkv_head_3_15_3_7	3		cal-zh-1	1.8203884960842591	1.21420879895368	-0.022043992045276625	0.013462068597038523	0.020182850617343418	True
1299	qkv_head_3_15_3_7	3		cal-zh-2	1.9554729427872564	1.1755154000577905	-0.017022359030488945	0.011990407410406662	0.019946074090474143	True
1300	qkv_head_3_15_3_7	3		cal-en-1	1.800556532555438	1.2349873278176473	-0.03990851248683167	0.012537383553623561	0.018278946957715852	True
1301	qkv_head_3_15_3_7	3		cal-en-2	1.9687498543553732	1.1675411239360434	-0.00966181492949542	0.0117573850525916	0.0198257257370557	True
1302	qkv_head_3_15_3_7	15		cal-zh-1	1.21066124243186	1.797040236121851	-0.008781781922184836	0.0269820137794049	0.018177711143509936	True
1303	qkv_head_3_15_3_7	15		cal-zh-2	1.2182778329394164	1.8093537692166972	-0.02290008284285021	0.027091057062919574	0.018241006735205775	True
1304	qkv_head_3_15_3_7	15		cal-en-1	1.2182951313001025	1.7520125293580022	-0.0005069508280088183	0.02524449370087579	0.017554237342801916	True
1305	qkv_head_3_15_3_7	15		cal-en-2	1.2908271476334776	1.5926023273594005	-0.005737778334136088	0.023648484307675955	0.019167437482868647	True
1306	qkv_head_3_15_4_0	3		cal-zh-1	2.1127663650875927	1.1384064857991425	-0.005233094763808961	0.01503991949084825	0.027912557096495618	True
1307	qkv_head_3_15_4_0	3		cal-zh-2	2.251399480733774	1.122031713781916	-0.01061632572357935	0.01597072034828748	0.032045860252812274	True
1308	qkv_head_3_15_4_0	3		cal-en-1	1.7851560222132459	1.2353119143184925	-0.03406400568499661	0.01705834154486236	0.024651102919687584	True
1309	qkv_head_3_15_4_0	3		cal-en-2	2.008711853809019	1.1702933464710898	-0.02587792687795299	0.01589169311153847	0.027276778447471964	True
1310	qkv_head_3_15_4_0	15		cal-zh-1	1.2719694141535451	1.686233651401742	-0.032412323009398614	0.02457191397561256	0.018535226715591647	True
1311	qkv_head_3_15_4_0	15		cal-zh-2	1.3429846579166163	1.6096251193158824	-0.06440620643766365	0.026930485965797203	0.022469349569840258	True
1312	qkv_head_3_15_4_0	15		cal-en-1	1.233327133806097	1.7833056838064028	-0.03093623032822227	0.028264213586899636	0.019547417949125203	True
1313	qkv_head_3_15_4_0	15		cal-en-2	1.3092522729060405	1.6168577054910047	-0.03608806726443181	0.024958506153654112	0.02021017730814336	True
1314	qkv_head_3_15_4_1	3		cal-zh-1	2.5954577663959766	1.073782854408524	0.02193708464701113	0.01503991949084825	0.03635323071906785	True
1315	qkv_head_3_15_4_1	3		cal-zh-2	2.2291672251841406	1.0911226417360018	0.0500919925659435	0.01597072034828748	0.03262823536164662	True
1316	qkv_head_3_15_4_1	3		cal-en-1	1.9934168638155705	1.1060677130469163	0.07613095307324116	0.01705834154486236	0.030743493642519888	True
1317	qkv_head_3_15_4_1	3		cal-en-2	2.1298804238538036	1.0894329296888758	0.07308677250326653	0.01589169311153847	0.03106882960644892	True
1318	qkv_head_3_15_4_1	15		cal-zh-1	1.464864705460229	1.3606801781203353	0.006116660594016059	0.02457191397561256	0.026453335697300438	True
1319	qkv_head_3_15_4_1	15		cal-zh-2	1.417919204681112	1.4100297602998126	0.0003614280664174958	0.026930485965797203	0.027081168296887392	True
1320	qkv_head_3_15_4_1	15		cal-en-1	1.4664249206482804	1.3776344884025624	-0.00814754248449434	0.028264213586899636	0.03008588091781563	True
1321	qkv_head_3_15_4_1	15		cal-en-2	1.661947312612926	1.2479877265551194	0.004265373709501075	0.024958506153654112	0.03323728378595285	True
1322	qkv_head_3_15_4_2	3		cal-zh-1	2.8368244560168128	1.0838012809820363	-0.03751502861654131	0.01503991949084825	0.039366636833555665	True
1323	qkv_head_3_15_4_2	3		cal-zh-2	2.645009375473133	1.0918118546515043	-0.02624179470448023	0.01597072034828748	0.038690461982356275	True
1324	qkv_head_3_15_4_2	3		cal-en-1	2.1456842710123216	1.1439448767125555	-0.022859225213853446	0.01705834154486236	0.031996135379838156	True
1325	qkv_head_3_15_4_2	3		cal-en-2	2.362397031072195	1.1160715275945328	-0.023732345895860412	0.01589169311153847	0.03363806682383898	True
1326	qkv_head_3_15_4_2	15		cal-zh-1	1.2867227631750227	1.7127932282744247	-0.060759650408697664	0.02457191397561256	0.018459461729103368	True
1327	qkv_head_3_15_4_2	15		cal-zh-2	1.3644554697412825	1.5216123982544913	-0.032138142775433434	0.026930485965797203	0.024149020421347225	True
1328	qkv_head_3_15_4_2	15		cal-en-1	1.3052646616085277	1.6390412772277656	-0.043654184935213614	0.028264213586899636	0.022508450333559877	True
1329	qkv_head_3_15_4_2	15		cal-en-2	1.3247277054592292	1.5747570735678182	-0.028078710949828462	0.024958506153654112	0.02099576191374788	True
1330	qkv_head_3_15_4_3	3		cal-zh-1	4.361256959413947	1.0192883045348404	0.033531845169474946	0.01503991949084825	0.06435171801409144	True
1331	qkv_head_3_15_4_3	3		cal-zh-2	3.5140550254318095	1.0366061742488228	0.021129484235686512	0.01597072034828748	0.054140127170605075	True
1332	qkv_head_3_15_4_3	3		cal-en-1	2.895303687046632	1.060343949388861	0.013371872089440058	0.01705834154486236	0.04657835714364814	True
1333	qkv_head_3_15_4_3	3		cal-en-2	3.1646666296224537	1.0443976474951548	0.027491784153258546	0.01589169311153847	0.04815398713210921	True
1334	qkv_head_3_15_4_3	15		cal-zh-1	1.9951569910785163	1.1237846091817356	0.04826021625317445	0.02457191397561256	0.04362475295717022	True
1335	qkv_head_3_15_4_3	15		cal-zh-2	1.981728036157063	1.1119276389877693	0.06989862764002351	0.026930485965797203	0.04799673755239901	True
1336	qkv_head_3_15_4_3	15		cal-en-1	1.8370810813832656	1.1604496750861875	0.04145900641738313	0.028264213586899636	0.0447444238000349	True
1337	qkv_head_3_15_4_3	15		cal-en-2	1.9503404745025794	1.1511190965210119	0.01971986855951241	0.024958506153654112	0.042287183734254705	True
1338	qkv_head_3_15_4_4	3		cal-zh-1	1.97155695491569	1.156893865987978	0.0050456075681500675	0.01503991949084825	0.025630750361210788	True
1339	qkv_head_3_15_4_4	3		cal-zh-2	1.745268077948247	1.212875138510784	0.008554756800007444	0.01597072034828748	0.022981086445492193	True
1340	qkv_head_3_15_4_4	3		cal-en-1	1.5136284022254833	1.3438313419947903	-0.009943580352758996	0.01705834154486236	0.019213713395640312	True
1341	qkv_head_3_15_4_4	3		cal-en-2	1.7082140643581214	1.2204094580663476	0.014710497094333459	0.01589169311153847	0.02224369329503941	True
1342	qkv_head_3_15_4_4	15		cal-zh-1	1.2053238353381062	1.8116430827113892	-0.007630735066768693	0.02457191397561256	0.01634820560259419	True
1343	qkv_head_3_15_4_4	15		cal-zh-2	1.4534419630027817	1.385117161973311	-0.005434278737414577	0.026930485965797203	0.02825890795474914	True
1344	qkv_head_3_15_4_4	15		cal-en-1	1.2031164352327444	1.8263633618177704	-0.010275452594386458	0.028264213586899636	0.01861904405565957	True
1345	qkv_head_3_15_4_4	15		cal-en-2	1.3414383440783682	1.5274755798565731	-0.016061667860434697	0.024958506153654112	0.021918711897555357	True
1346	qkv_head_3_15_4_5	3		cal-zh-1	2.020380026925689	1.144343378472829	0.009964039923698346	0.01503991949084825	0.026553527129620794	True
1347	qkv_head_3_15_4_5	3		cal-zh-2	1.7712479833479586	1.2174706396391874	-0.007115820287729877	0.01597072034828748	0.02323514447781832	True
1348	qkv_head_3_15_4_5	3		cal-en-1	1.586982673515174	1.2646527771701568	0.022392756966393482	0.01705834154486236	0.02140610684553001	True
1349	qkv_head_3_15_4_5	3		cal-en-2	1.797385138354087	1.185740320203155	0.022152322633692535	0.01589169311153847	0.024089163989185623	True
1350	qkv_head_3_15_4_5	15		cal-zh-1	1.3206884459120298	1.581569262770026	-0.028088452250055265	0.02457191397561256	0.020518761742181518	True
1351	qkv_head_3_15_4_5	15		cal-zh-2	1.220687809628824	1.8036449024235626	-0.023666735426297197	0.026930485965797203	0.018226268309053672	True
1352	qkv_head_3_15_4_5	15		cal-en-1	1.2009037369013011	1.789735698593935	0.006009380375181372	0.028264213586899636	0.01896514649830728	True
1353	qkv_head_3_15_4_5	15		cal-en-2	1.2142677339293642	1.7112507693971921	0.0204743429784374	0.024958506153654112	0.017710033649910594	True
1354	qkv_head_3_15_4_6	3		cal-zh-1	1.603107207414067	1.2098461075867184	0.07011285444146617	0.01503991949084825	0.019928653060511628	True
1355	qkv_head_3_15_4_6	3		cal-zh-2	1.5879532640050393	1.2518553622356408	0.03446861456547348	0.01597072034828748	0.020258536465653662	True
1356	qkv_head_3_15_4_6	3		cal-en-1	1.3616524114881163	1.3611474324248851	0.07329522691706851	0.01705834154486236	0.017064670106433578	True
1357	qkv_head_3_15_4_6	3		cal-en-2	1.4789480686825425	1.2622013260015874	0.07921816595666833	0.01589169311153847	0.018620633928391174	True
1358	qkv_head_3_15_4_6	15		cal-zh-1	1.2537467399458517	1.5904578432943075	0.03141276363133074	0.02457191397561256	0.019369867092700718	True
1359	qkv_head_3_15_4_6	15		cal-zh-2	1.217067544617263	1.6939228591848767	0.024339390501644832	0.026930485965797203	0.01934929932140743	True
1360	qkv_head_3_15_4_6	15		cal-en-1	1.1659275209509918	1.828387440791694	0.037048150901184025	0.028264213586899636	0.0180235456357839	True
1361	qkv_head_3_15_4_6	15		cal-en-2	1.2327604556905092	1.5581222646952677	0.06716067165708742	0.024958506153654112	0.01974675551237983	True
1362	qkv_head_3_15_4_7	3		cal-zh-1	1.6277276856425125	1.2129551870166122	0.05638720695532459	0.01503991949084825	0.020182850617343418	True
1363	qkv_head_3_15_4_7	3		cal-zh-2	1.5804967995118115	1.2654957703391594	0.024749015421525605	0.01597072034828748	0.019946074090474143	True
1364	qkv_head_3_15_4_7	3		cal-en-1	1.4033225738947797	1.3096135033647394	0.0834839943681076	0.01705834154486236	0.018278946957715852	True
1365	qkv_head_3_15_4_7	3		cal-en-2	1.5411084206614138	1.2353051987894612	0.07269141253156994	0.01589169311153847	0.0198257257370557	True
1366	qkv_head_3_15_4_7	15		cal-zh-1	1.2377473157331367	1.6731380714341897	0.01030720641829181	0.02457191397561256	0.018177711143509936	True
1367	qkv_head_3_15_4_7	15		cal-zh-2	1.198898805482965	1.770018942713021	0.015816853903253453	0.026930485965797203	0.018241006735205775	True
1368	qkv_head_3_15_4_7	15		cal-en-1	1.159139400878935	1.866339332415781	0.03391837041784108	0.028264213586899636	0.017554237342801916	True
1369	qkv_head_3_15_4_7	15		cal-en-2	1.2253097579330894	1.595513284487754	0.057552355135547247	0.024958506153654112	0.019167437482868647	True
1370	qkv_head_3_15_5_0	3		cal-zh-1	2.9454430404612904	1.0679610431418676	-0.012515784184457496	0.010120556800467573	0.027912557096495618	True
1371	qkv_head_3_15_5_0	3		cal-zh-2	3.3544107004751003	1.0446322277177769	0.009193728830414017	0.009979737537888988	0.032045860252812274	True
1372	qkv_head_3_15_5_0	3		cal-en-1	2.2975370001256965	1.1141789943748677	-0.0064164135422517385	0.011954428181041804	0.024651102919687584	True
1373	qkv_head_3_15_5_0	3		cal-en-2	2.6458108679986676	1.079736812111155	0.0008678019996700866	0.01113146149702431	0.027276778447471964	True
1374	qkv_head_3_15_5_0	15		cal-zh-1	1.365265760923832	1.4332394709031815	0.022804247510398903	0.019458056659202465	0.018535226715591647	True
1375	qkv_head_3_15_5_0	15		cal-zh-2	1.4903001473406094	1.3155557530943434	0.027500952028561773	0.01983471728674222	0.022469349569840258	True
1376	qkv_head_3_15_5_0	15		cal-en-1	1.3702646101490747	1.4353503915627348	0.017671988798848622	0.02047589480127116	0.019547417949125203	True
1377	qkv_head_3_15_5_0	15		cal-en-2	1.413880386208653	1.4084245066321035	0.004335581312413733	0.020132190305360457	0.02021017730814336	True
1378	qkv_head_3_15_5_1	3		cal-zh-1	3.7030498362691833	1.0309104709988588	0.026450483687489135	0.010120556800467573	0.03635323071906785	True
1379	qkv_head_3_15_5_1	3		cal-zh-2	3.413215098546401	1.0439728188271211	0.006003231068459894	0.009979737537888988	0.03262823536164662	True
1380	qkv_head_3_15_5_1	3		cal-en-1	2.7429740011590322	1.066589441024662	0.01747068848807615	0.011954428181041804	0.030743493642519888	True
1381	qkv_head_3_15_5_1	3		cal-en-2	2.938703476021904	1.0528901477421382	0.02761733223863154	0.01113146149702431	0.03106882960644892	True
1382	qkv_head_3_15_5_1	15		cal-zh-1	1.6969340977247833	1.2481994784435082	-0.011522585204557874	0.019458056659202465	0.026453335697300438	True
1383	qkv_head_3_15_5_1	15		cal-zh-2	1.6975869132868053	1.2433420938707138	-0.006461070644123383	0.01983471728674222	0.027081168296887392	True
1384	qkv_head_3_15_5_1	15		cal-en-1	1.7967621481146994	1.2228431279177485	-0.023622518502294285	0.02047589480127116	0.03008588091781563	True
1385	qkv_head_3_15_5_1	15		cal-en-2	1.9453720312408873	1.1783333499778763	-0.017816744811563874	0.020132190305360457	0.03323728378595285	True
1386	qkv_head_3_15_5_2	3		cal-zh-1	4.03624660157967	1.0376569165583887	-0.020692361209228183	0.010120556800467573	0.039366636833555665	True
1387	qkv_head_3_15_5_2	3		cal-zh-2	4.020192106071681	1.0369600158505312	-0.016969393917725343	0.009979737537888988	0.038690461982356275	True
1388	qkv_head_3_15_5_2	3		cal-en-1	2.87104117738729	1.072681283300148	-0.014791034035788879	0.011954428181041804	0.031996135379838156	True
1389	qkv_head_3_15_5_2	3		cal-en-2	3.189455282533903	1.0554500310596349	-0.006750388064258355	0.01113146149702431	0.03363806682383898	True
1390	qkv_head_3_15_5_2	15		cal-zh-1	1.3681939082580052	1.4422086070736722	0.014777614941303186	0.019458056659202465	0.018459461729103368	True
1391	qkv_head_3_15_5_2	15		cal-zh-2	1.5642209679582946	1.2847676689204672	0.014599422745225072	0.01983471728674222	0.024149020421347225	True
1392	qkv_head_3_15_5_2	15		cal-en-1	1.4859565473696434	1.351771867556587	0.0001448147368417068	0.02047589480127116	0.022508450333559877	True
1393	qkv_head_3_15_5_2	15		cal-en-2	1.4496774931089287	1.390051158541504	-0.0066807861320572716	0.020132190305360457	0.02099576191374788	True
1394	qkv_head_3_15_5_3	3		cal-zh-1	6.438437493234897	1.0125692734772873	-0.0017894957873329854	0.010120556800467573	0.06435171801409144	True
1395	qkv_head_3_15_5_3	3		cal-zh-2	5.53501102520673	1.0202775683703234	-0.01895542654202268	0.009979737537888988	0.054140127170605075	True
1396	qkv_head_3_15_5_3	3		cal-en-1	4.021422565761783	1.0321061152878357	0.0012219117673300988	0.011954428181041804	0.04657835714364814	True
1397	qkv_head_3_15_5_3	3		cal-en-2	4.456790540013325	1.0302489004774442	-0.01725197703206328	0.01113146149702431	0.04815398713210921	True
1398	qkv_head_3_15_5_3	15		cal-zh-1	2.469541169346026	1.1014955670361022	-0.01608348446662634	0.019458056659202465	0.04362475295717022	True
1399	qkv_head_3_15_5_3	15		cal-zh-2	2.639867339862566	1.0909287803887637	-0.023410586450839165	0.01983471728674222	0.04799673755239901	True
1400	qkv_head_3_15_5_3	15		cal-en-1	2.4079019582727104	1.1019014885454481	-0.005213744728814001	0.02047589480127116	0.0447444238000349	True
1401	qkv_head_3_15_5_3	15		cal-en-2	2.3300478007169176	1.1092951008373966	-0.004076000475065838	0.020132190305360457	0.042287183734254705	True
1402	qkv_head_3_15_5_4	3		cal-zh-1	2.7003640879245387	1.066265628147302	0.02404902065017373	0.010120556800467573	0.025630750361210788	True
1403	qkv_head_3_15_5_4	3		cal-zh-2	2.4983442924500907	1.084927833027908	0.013255054478285564	0.009979737537888988	0.022981086445492193	True
1404	qkv_head_3_15_5_4	3		cal-en-1	1.8740546915725529	1.166003247598767	0.02213738481729362	0.011954428181041804	0.019213713395640312	True
1405	qkv_head_3_15_5_4	3		cal-en-2	2.229749355340646	1.1158384881401144	0.00533229603749394	0.01113146149702431	0.02224369329503941	True
1406	qkv_head_3_15_5_4	15		cal-zh-1	1.280736433979344	1.5243655911643597	0.03904598579224205	0.019458056659202465	0.01634820560259419	True
1407	qkv_head_3_15_5_4	15		cal-zh-2	1.7258962121983874	1.2113937130914922	0.0179361066183962	0.01983471728674222	0.02825890795474914	True
1408	qkv_head_3_15_5_4	15		cal-en-1	1.3331710644972905	1.4661263159988904	0.027223338190044473	0.02047589480127116	0.01861904405565957	True
1409	qkv_head_3_15_5_4	15		cal-en-2	1.4516773917518486	1.3333559768171004	0.03581507018618438	0.020132190305360457	0.021918711897555357	True
1410	qkv_head_3_15_5_5	3		cal-zh-1	2.7867909383347405	1.0621517753467595	0.022432482112651884	0.010120556800467573	0.026553527129620794	True
1411	qkv_head_3_15_5_5	3		cal-zh-2	2.5180028690531917	1.0815085646139184	0.017250404060442218	0.009979737537888988	0.02323514447781832	True
1412	qkv_head_3_15_5_5	3		cal-en-1	2.038699264993359	1.13852949169947	0.013991004628151239	0.011954428181041804	0.02140610684553001	True
1413	qkv_head_3_15_5_5	3		cal-en-2	2.3630641750315493	1.0919581057761094	0.02289413227288596	0.01113146149702431	0.024089163989185623	True
1414	qkv_head_3_15_5_5	15		cal-zh-1	1.420076131417655	1.346666147436244	0.04522476605364434	0.019458056659202465	0.020518761742181518	True
1415	qkv_head_3_15_5_5	15		cal-zh-2	1.3361117919484569	1.4540222500519178	0.032210031642635056	0.01983471728674222	0.018226268309053672	True
1416	qkv_head_3_15_5_5	15		cal-en-1	1.3340462793280499	1.4403153320216322	0.0422150443850167	0.02047589480127116	0.01896514649830728	True
1417	qkv_head_3_15_5_5	15		cal-en-2	1.3047956444294746	1.4832492553390622	0.04055884319780915	0.020132190305360457	0.017710033649910594	True
1418	qkv_head_3_15_5_6	3		cal-zh-1	2.13434034041155	1.0839022878804552	0.08177462638378585	0.010120556800467573	0.019928653060511628	True
1419	qkv_head_3_15_5_6	3		cal-zh-2	2.2007144132477374	1.0841134687738727	0.06838080129341767	0.009979737537888988	0.020258536465653662	True
1420	qkv_head_3_15_5_6	3		cal-en-1	1.6991545451300023	1.1903201674311508	0.05273785432663655	0.011954428181041804	0.017064670106433578	True
1421	qkv_head_3_15_5_6	3		cal-en-2	1.918221417849941	1.1467175573978359	0.03546879741876436	0.01113146149702431	0.018620633928391174	True
1422	qkv_head_3_15_5_6	15		cal-zh-1	1.3985757099239833	1.4049433212755629	0.01755051611321404	0.019458056659202465	0.019369867092700718	True
1423	qkv_head_3_15_5_6	15		cal-zh-2	1.3880109224630233	1.4228321026335649	0.012853730608491168	0.01983471728674222	0.01934929932140743	True
1424	qkv_head_3_15_5_6	15		cal-en-1	1.3300593527166622	1.5110320652781306	0.003266843555391298	0.02047589480127116	0.0180235456357839	True
1425	qkv_head_3_15_5_6	15		cal-en-2	1.4026414589814522	1.4300194664738541	-0.0027154488736739167	0.020132190305360457	0.01974675551237983	True
1426	qkv_head_3_15_5_7	3		cal-zh-1	2.124154536363783	1.065143227080485	0.11657883285171121	0.010120556800467573	0.020182850617343418	True
1427	qkv_head_3_15_5_7	3		cal-zh-2	2.156348455776868	1.0788986108881846	0.08625587872926921	0.009979737537888988	0.019946074090474143	True
1428	qkv_head_3_15_5_7	3		cal-en-1	1.7662821400773285	1.155148217228033	0.07136727579874283	0.011954428181041804	0.018278946957715852	True
1429	qkv_head_3_15_5_7	3		cal-en-2	1.97829347927106	1.1107435857019188	0.07257099353709515	0.01113146149702431	0.0198257257370557	True
1430	qkv_head_3_15_5_7	15		cal-zh-1	1.3490144294275932	1.444032144347043	0.02830721877103539	0.019458056659202465	0.018177711143509936	True
1431	qkv_head_3_15_5_7	15		cal-zh-2	1.3352252272071767	1.4518834009674375	0.034214384328663104	0.01983471728674222	0.018241006735205775	True
1432	qkv_head_3_15_5_7	15		cal-en-1	1.3173619757193118	1.536618464434974	-0.00026718498494111137	0.02047589480127116	0.017554237342801916	True
1433	qkv_head_3_15_5_7	15		cal-en-2	1.3577608689632692	1.426100918684157	0.03305398795848422	0.020132190305360457	0.019167437482868647	True
1434	qkv_head_3_15_6_0	3		cal-zh-1	2.827338991917097	1.0697594064728562	-0.0016213424075364941	0.010561068410279402	0.027912557096495618	True
1435	qkv_head_3_15_6_0	3		cal-zh-2	3.338717212433072	1.0493057033596644	-0.003608151789035845	0.010071504051652823	0.032045860252812274	True
1436	qkv_head_3_15_6_0	3		cal-en-1	2.451434733479001	1.0971071441510478	-0.0037482276146590344	0.011032274592116392	0.024651102919687584	True
1437	qkv_head_3_15_6_0	3		cal-en-2	2.6740218455034444	1.0738192143716956	0.01017798797965153	0.01095366100030517	0.027276778447471964	True
1438	qkv_head_3_15_6_0	15		cal-zh-1	1.2760182158223115	1.579587117469369	0.015069447074569366	0.022944817696395392	0.018535226715591647	True
1439	qkv_head_3_15_6_0	15		cal-zh-2	1.4596427865051054	1.3509876737413788	0.01701374614815331	0.020796741905958215	0.022469349569840258	True
1440	qkv_head_3_15_6_0	15		cal-en-1	1.3462987208041959	1.4642227639831744	0.017886550883666235	0.02125960152521391	0.019547417949125203	True
1441	qkv_head_3_15_6_0	15		cal-en-2	1.3535224210107992	1.46874961115854	0.009346622042472538	0.021930696974057647	0.02021017730814336	True
1442	qkv_head_3_15_6_1	3		cal-zh-1	3.5992186909890607	1.0456180665987977	-0.015351526381442679	0.010561068410279402	0.03635323071906785	True
1443	qkv_head_3_15_6_1	3		cal-zh-2	3.394398617850601	1.0477642769731998	-0.004098227563122735	0.010071504051652823	0.03262823536164662	True
1444	qkv_head_3_15_6_1	3		cal-en-1	2.9834879382237305	1.0706219195345013	-0.024325863983502012	0.011032274592116392	0.030743493642519888	True
1445	qkv_head_3_15_6_1	3		cal-en-2	3.0296003700378016	1.0681192642321153	-0.023512842357618056	0.01095366100030517	0.03106882960644892	True
1446	qkv_head_3_15_6_1	15		cal-zh-1	1.5209411229964334	1.3192180068869483	0.0069138780830500885	0.022944817696395392	0.026453335697300438	True
1447	qkv_head_3_15_6_1	15		cal-zh-2	1.6203425203312212	1.2443276015699574	0.026943693028932025	0.020796741905958215	0.027081168296887392	True
1448	qkv_head_3_15_6_1	15		cal-en-1	1.708628182829174	1.207368812664167	0.029426435713975584	0.02125960152521391	0.03008588091781563	True
1449	qkv_head_3_15_6_1	15		cal-en-2	1.8141631265920704	1.1970250651954437	0.0018916457977524882	0.021930696974057647	0.03323728378595285	True
1450	qkv_head_3_15_6_2	3		cal-zh-1	3.84603978795897	1.0317947525217244	0.013737501206547964	0.010561068410279402	0.039366636833555665	True
1451	qkv_head_3_15_6_2	3		cal-zh-2	3.9626130293875614	1.0315067625403054	0.0072124826209597325	0.010071504051652823	0.038690461982356275	True
1452	qkv_head_3_15_6_2	3		cal-en-1	3.0655821710941	1.057013414111186	0.0023344470098138758	0.011032274592116392	0.031996135379838156	True
1453	qkv_head_3_15_6_2	3		cal-en-2	3.2249524317792404	1.0501505887605012	0.004945018950596941	0.01095366100030517	0.03363806682383898	True
1454	qkv_head_3_15_6_2	15		cal-zh-1	1.2671390564179084	1.5750337183262824	0.02585644294679915	0.022944817696395392	0.018459461729103368	True
1455	qkv_head_3_15_6_2	15		cal-zh-2	1.5153355809109197	1.3049822488560203	0.02244505797208013	0.020796741905958215	0.024149020421347225	True
1456	qkv_head_3_15_6_2	15		cal-en-1	1.4279001171977164	1.3486751446486	0.03874293146630304	0.02125960152521391	0.022508450333559877	True
1457	qkv_head_3_15_6_2	15		cal-en-2	1.3713559962981818	1.4324220726983752	0.01876888122236296	0.021930696974057647	0.02099576191374788	True
1458	qkv_head_3_15_6_3	3		cal-zh-1	6.170131720315956	1.0126098449216634	0.004737430699333967	0.010561068410279402	0.06435171801409144	True
1459	qkv_head_3_15_6_3	3		cal-zh-2	5.457964284683614	1.015326566074504	0.009992823311807831	0.010071504051652823	0.054140127170605075	True
1460	qkv_head_3_15_6_3	3		cal-en-1	4.324191510873467	1.024202463597631	0.015007499740432816	0.011032274592116392	0.04657835714364814	True
1461	qkv_head_3_15_6_3	3		cal-en-2	4.506409838607077	1.0250799287942525	0.002097922635314062	0.01095366100030517	0.04815398713210921	True
1462	qkv_head_3_15_6_3	15		cal-zh-1	2.162135175841495	1.1371937737585047	-0.015758976209297334	0.022944817696395392	0.04362475295717022	True
1463	qkv_head_3_15_6_3	15		cal-zh-2	2.524418542422517	1.0938176960894757	-0.010030900692846255	0.020796741905958215	0.04799673755239901	True
1464	qkv_head_3_15_6_3	15		cal-en-1	2.3490524616621866	1.116114926855354	-0.021004719638643036	0.02125960152521391	0.0447444238000349	True
1465	qkv_head_3_15_6_3	15		cal-en-2	2.163497166462532	1.1220184597795224	0.009674218347977695	0.021930696974057647	0.042287183734254705	True
1466	qkv_head_3_15_6_4	3		cal-zh-1	2.6207066957137317	1.0798537813624327	0.004487800989376916	0.010561068410279402	0.025630750361210788	True
1467	qkv_head_3_15_6_4	3		cal-zh-2	2.478065752305534	1.0860169437073257	0.014411686834549738	0.010071504051652823	0.022981086445492193	True
1468	qkv_head_3_15_6_4	3		cal-en-1	2.005444065186014	1.1515009696815015	0.0032540185749686742	0.011032274592116392	0.019213713395640312	True
1469	qkv_head_3_15_6_4	3		cal-en-2	2.255310118592914	1.110602549763356	0.009197177882248478	0.01095366100030517	0.02224369329503941	True
1470	qkv_head_3_15_6_4	15		cal-zh-1	1.228710998386323	1.724504238866219	-0.0014547625190895045	0.022944817696395392	0.01634820560259419	True
1471	qkv_head_3_15_6_4	15		cal-zh-2	1.6802873784846206	1.2365836285726348	0.008467059719721661	0.020796741905958215	0.02825890795474914	True
1472	qkv_head_3_15_6_4	15		cal-en-1	1.320148702084547	1.5073725201168273	0.013829482928556796	0.02125960152521391	0.01861904405565957	True
1473	qkv_head_3_15_6_4	15		cal-en-2	1.4159135649311505	1.4166877816130268	-0.0029535742175049798	0.021930696974057647	0.021918711897555357	True
1474	qkv_head_3_15_6_5	3		cal-zh-1	2.704592938689547	1.075691033738267	0.0013526567702295909	0.010561068410279402	0.026553527129620794	True
1475	qkv_head_3_15_6_5	3		cal-zh-2	2.515147278209197	1.0902155580383976	-0.00078721675520372	0.010071504051652823	0.02323514447781832	True
1476	qkv_head_3_15_6_5	3		cal-en-1	2.1798123849358175	1.1234312228489032	0.0034136021287006525	0.011032274592116392	0.02140610684553001	True
1477	qkv_head_3_15_6_5	3		cal-en-2	2.4077271765150994	1.0948253448981535	0.008930424991577417	0.01095366100030517	0.024089163989185623	True
1478	qkv_head_3_15_6_5	15		cal-zh-1	1.3503699284919572	1.5100322437219487	-0.013300262643095357	0.022944817696395392	0.020518761742181518	True
1479	qkv_head_3_15_6_5	15		cal-zh-2	1.336709960518894	1.5252278513987487	-0.010677911158138906	0.020796741905958215	0.018226268309053672	True
1480	qkv_head_3_15_6_5	15		cal-en-1	1.3382564035202644	1.5001623045699146	0.002727660533971451	0.02125960152521391	0.01896514649830728	True
1481	qkv_head_3_15_6_5	15		cal-en-2	1.292223602395934	1.6001869226834269	-0.010966721726430602	0.021930696974057647	0.017710033649910594	True
1482	qkv_head_3_15_6_6	3		cal-zh-1	2.167687794065264	1.1487529546396333	-0.03660085284977887	0.010561068410279402	0.019928653060511628	True
1483	qkv_head_3_15_6_6	3		cal-zh-2	2.258725997698921	1.1229225801166103	-0.013877480006741796	0.010071504051652823	0.020258536465653662	True
1484	qkv_head_3_15_6_6	3		cal-en-1	1.841717637508217	1.1906667149969856	0.0002106733131830541	0.011032274592116392	0.017064670106433578	True
1485	qkv_head_3_15_6_6	3		cal-en-2	1.9762457583359032	1.1625343247362157	-0.004626722663743732	0.01095366100030517	0.018620633928391174	True
1486	qkv_head_3_15_6_6	15		cal-zh-1	1.3389138166563077	1.5860270639616727	-0.04739876272729791	0.022944817696395392	0.019369867092700718	True
1487	qkv_head_3_15_6_6	15		cal-zh-2	1.3909721684827123	1.495025153407046	-0.037165962122465174	0.020796741905958215	0.01934929932140743	True
1488	qkv_head_3_15_6_6	15		cal-en-1	1.331109643528134	1.5701050825201217	-0.031326101328551556	0.02125960152521391	0.0180235456357839	True
1489	qkv_head_3_15_6_6	15		cal-en-2	1.3742788372690522	1.526270617930773	-0.04325384797228929	0.021930696974057647	0.01974675551237983	True
1490	qkv_head_3_15_6_7	3		cal-zh-1	2.172254576975907	1.1366743790032952	-0.017407633659501646	0.010561068410279402	0.020182850617343418	True
1491	qkv_head_3_15_6_7	3		cal-zh-2	2.231862507132106	1.1269492022015597	-0.014906298022445402	0.010071504051652823	0.019946074090474143	True
1492	qkv_head_3_15_6_7	3		cal-en-1	1.9194141529612812	1.1584641084876506	0.018419804637131366	0.011032274592116392	0.018278946957715852	True
1493	qkv_head_3_15_6_7	3		cal-en-2	2.0459484618151405	1.1303811104847372	0.024879640124829343	0.01095366100030517	0.0198257257370557	True
1494	qkv_head_3_15_6_7	15		cal-zh-1	1.3005785764070457	1.6416554372496757	-0.04030788409525061	0.022944817696395392	0.018177711143509936	True
1495	qkv_head_3_15_6_7	15		cal-zh-2	1.353270458028795	1.5428762706536672	-0.03535534180391	0.020796741905958215	0.018241006735205775	True
1496	qkv_head_3_15_6_7	15		cal-en-1	1.3128510091921342	1.5899687791816512	-0.025301273151290406	0.02125960152521391	0.017554237342801916	True
1497	qkv_head_3_15_6_7	15		cal-en-2	1.3416350065013203	1.5350508279297017	-0.020656642580173797	0.021930696974057647	0.019167437482868647	True
1498	qkv_head_3_15_7_0	3		cal-zh-1	2.333137832433357	1.1039701095831145	0.0054309845581439415	0.013207376044485524	0.027912557096495618	True
1499	qkv_head_3_15_7_0	3		cal-zh-2	2.5369526726431455	1.0849943686914285	0.006657117991656498	0.013705252876455444	0.032045860252812274	True
1500	qkv_head_3_15_7_0	3		cal-en-1	1.848006706224315	1.1754489771121666	0.017998244280943914	0.015679658311865633	0.024651102919687584	True
1501	qkv_head_3_15_7_0	3		cal-en-2	2.21633412417204	1.1144177662744656	0.010840141218089329	0.013715317639641058	0.027276778447471964	True
1502	qkv_head_3_15_7_0	15		cal-zh-1	1.2209626687936515	1.7336705623128053	0.0037192541470413933	0.026318558088565033	0.018535226715591647	True
1503	qkv_head_3_15_7_0	15		cal-zh-2	1.2665348946247348	1.6191974842097085	0.004937917537098242	0.02872586807495238	0.022469349569840258	True
1504	qkv_head_3_15_7_0	15		cal-en-1	1.2133058518201822	1.7727070078496903	-0.0026718342410347066	0.028559859603245887	0.019547417949125203	True
1505	qkv_head_3_15_7_0	15		cal-en-2	1.228260426314381	1.7003254690811942	0.009130814127473262	0.027977681667069612	0.02021017730814336	True
1506	qkv_head_3_15_7_1	3		cal-zh-1	2.9158110224054052	1.0593339817625829	0.013491831645563649	0.013207376044485524	0.03635323071906785	True
1507	qkv_head_3_15_7_1	3		cal-zh-2	2.6105356279135563	1.0965364975148968	-0.03089733314743146	0.013705252876455444	0.03262823536164662	True
1508	qkv_head_3_15_7_1	3		cal-en-1	2.2137190016123673	1.1290310056291055	-0.01430858513843341	0.015679658311865633	0.030743493642519888	True
1509	qkv_head_3_15_7_1	3		cal-en-2	2.478543536610957	1.0941516728793188	-0.002594033453471145	0.013715317639641058	0.03106882960644892	True
1510	qkv_head_3_15_7_1	15		cal-zh-1	1.428451971930224	1.4211741245096516	-0.01502644473892129	0.026318558088565033	0.026453335697300438	True
1511	qkv_head_3_15_7_1	15		cal-zh-2	1.389596183674265	1.4739894605755313	-0.02238645243019525	0.02872586807495238	0.027081168296887392	True
1512	qkv_head_3_15_7_1	15		cal-en-1	1.4714733229400987	1.3968369956621542	-0.026349084505290936	0.028559859603245887	0.03008588091781563	True
1513	qkv_head_3_15_7_1	15		cal-en-2	1.5585396729813148	1.311910056097863	-0.007457566355052737	0.027977681667069612	0.03323728378595285	True
1514	qkv_head_3_15_7_2	3		cal-zh-1	3.1291931983869663	1.049833935819358	0.015509439407319239	0.013207376044485524	0.039366636833555665	True
1515	qkv_head_3_15_7_2	3		cal-zh-2	2.982426213995835	1.056459482619319	0.013227323908827368	0.013705252876455444	0.038690461982356275	True
1516	qkv_head_3_15_7_2	3		cal-en-1	2.2604253069110847	1.1077180425418955	0.013374467467442797	0.015679658311865633	0.031996135379838156	True
1517	qkv_head_3_15_7_2	3		cal-en-2	2.6154712057972036	1.066411412781352	0.035577429527138264	0.013715317639641058	0.03363806682383898	True
1518	qkv_head_3_15_7_2	15		cal-zh-1	1.1993607777846513	1.7099873637975853	0.03812146263816517	0.026318558088565033	0.018459461729103368	True
1519	qkv_head_3_15_7_2	15		cal-zh-2	1.2940082205553634	1.5392553728066924	0.01919382304810016	0.02872586807495238	0.024149020421347225	True
1520	qkv_head_3_15_7_2	15		cal-en-1	1.2584667660155446	1.5968062492141555	0.023718917362639806	0.028559859603245887	0.022508450333559877	True
1521	qkv_head_3_15_7_2	15		cal-en-2	1.2281587755513201	1.6365700563833057	0.03650920603176838	0.027977681667069612	0.02099576191374788	True
1522	qkv_head_3_15_7_3	3		cal-zh-1	5.004187295713508	1.0270461372461388	-0.030943194325172826	0.013207376044485524	0.06435171801409144	True
1523	qkv_head_3_15_7_3	3		cal-zh-2	4.098236956339992	1.03744443852674	-0.024114796238999522	0.013705252876455444	0.054140127170605075	True
1524	qkv_head_3_15_7_3	3		cal-en-1	3.1569960640255803	1.0627386325190762	-0.023904378257827204	0.015679658311865633	0.04657835714364814	True
1525	qkv_head_3_15_7_3	3		cal-en-2	3.67416771972162	1.046484005551763	-0.024585824269172614	0.013715317639641058	0.04815398713210921	True
1526	qkv_head_3_15_7_3	15		cal-zh-1	1.9610779326914598	1.183106837038491	-0.029652169866872094	0.026318558088565033	0.04362475295717022	True
1527	qkv_head_3_15_7_3	15		cal-zh-2	1.9980025787300202	1.1957970774024926	-0.05992758648593212	0.02872586807495238	0.04799673755239901	True
1528	qkv_head_3_15_7_3	15		cal-en-1	1.89926956021393	1.2122822774708766	-0.04873646593143242	0.028559859603245887	0.0447444238000349	True
1529	qkv_head_3_15_7_3	15		cal-en-2	1.8492416601023423	1.2234793127147117	-0.04471811017984716	0.027977681667069612	0.042287183734254705	True
1530	qkv_head_3_15_7_4	3		cal-zh-1	2.183450968987311	1.125119538667671	-0.0003550421262007918	0.013207376044485524	0.025630750361210788	True
1531	qkv_head_3_15_7_4	3		cal-zh-2	1.9532323193234644	1.1648510581206475	-0.0010225603024283064	0.013705252876455444	0.022981086445492193	True
1532	qkv_head_3_15_7_4	3		cal-en-1	1.592926960479154	1.299933539226162	-0.014621049941272536	0.015679658311865633	0.019213713395640312	True
1533	qkv_head_3_15_7_4	3		cal-en-2	1.9300431959727253	1.1900521707380889	-0.029222308030597433	0.013715317639641058	0.02224369329503941	True
1534	qkv_head_3_15_7_4	15		cal-zh-1	1.1755157266124865	1.8924327040493747	0.0032282405487811853	0.026318558088565033	0.01634820560259419	True
1535	qkv_head_3_15_7_4	15		cal-zh-2	1.4030059483807753	1.426189711438811	-0.00034201659071998985	0.02872586807495238	0.02825890795474914	True
1536	qkv_head_3_15_7_4	15		cal-en-1	1.1962803957680714	1.8349814333709757	-0.004658000559881968	0.028559859603245887	0.01861904405565957	True
1537	qkv_head_3_15_7_4	15		cal-en-2	1.278581924790522	1.6320191735832827	-0.01340275756707791	0.027977681667069612	0.021918711897555357	True
1538	qkv_head_3_15_7_5	3		cal-zh-1	2.2452965438503303	1.116781045367606	0.0001948245200944975	0.013207376044485524	0.026553527129620794	True
1539	qkv_head_3_15_7_5	3		cal-zh-2	1.9482724749086806	1.1491887630116566	0.023131602302446465	0.013705252876455444	0.02323514447781832	True
1540	qkv_head_3_15_7_5	3		cal-en-1	1.6731185434800353	1.225534716159346	0.02361778146266451	0.015679658311865633	0.02140610684553001	True
1541	qkv_head_3_15_7_5	3		cal-en-2	2.010656832563733	1.1447801648619385	0.011982819175315473	0.013715317639641058	0.024089163989185623	True
1542	qkv_head_3_15_7_5	15		cal-zh-1	1.2530472573258449	1.607231344855079	0.02417614946263071	0.026318558088565033	0.020518761742181518	True
1543	qkv_head_3_15_7_5	15		cal-zh-2	1.1589907567046225	1.8266501410301486	0.04674436935563841	0.02872586807495238	0.018226268309053672	True
1544	qkv_head_3_15_7_5	15		cal-en-1	1.1798949217711148	1.7768190356648963	0.03675109868317141	0.028559859603245887	0.01896514649830728	True
1545	qkv_head_3_15_7_5	15		cal-en-2	1.1675780888597012	1.844498363882394	0.029587170538806225	0.027977681667069612	0.017710033649910594	True
1546	qkv_head_3_15_7_6	3		cal-zh-1	1.778137356977473	1.1784303064055732	0.038112666202022596	0.013207376044485524	0.019928653060511628	True
1547	qkv_head_3_15_7_6	3		cal-zh-2	1.7629335644574027	1.1926552713342844	0.026051972743512772	0.013705252876455444	0.020258536465653662	True
1548	qkv_head_3_15_7_6	3		cal-en-1	1.4491588852600776	1.3315414841752806	0.03877702805274696	0.015679658311865633	0.017064670106433578	True
1549	qkv_head_3_15_7_6	3		cal-en-2	1.6510620827303284	1.216115466020028	0.0431679131119379	0.013715317639641058	0.018620633928391174	True
1550	qkv_head_3_15_7_6	15		cal-zh-1	1.2504415244741853	1.6990213583153235	-0.014906092026493858	0.026318558088565033	0.019369867092700718	True
1551	qkv_head_3_15_7_6	15		cal-zh-2	1.2060697272972762	1.7905247781869194	-0.0006592462496770697	0.02872586807495238	0.01934929932140743	True
1552	qkv_head_3_15_7_6	15		cal-en-1	1.1748882555819669	1.861711580339894	0.014181321691188777	0.028559859603245887	0.0180235456357839	True
1553	qkv_head_3_15_7_6	15		cal-en-2	1.2050622200186314	1.7073613515676858	0.032575710870232415	0.027977681667069612	0.01974675551237983	True
1554	qkv_head_3_15_7_7	3		cal-zh-1	1.7582268850891416	1.1505591595144693	0.07979596409840185	0.013207376044485524	0.020182850617343418	True
1555	qkv_head_3_15_7_7	3		cal-zh-2	1.712087849374824	1.1764017728980036	0.06418596437260535	0.013705252876455444	0.019946074090474143	True
1556	qkv_head_3_15_7_7	3		cal-en-1	1.4746781441181334	1.2649771058057642	0.07906962822104396	0.015679658311865633	0.018278946957715852	True
1557	qkv_head_3_15_7_7	3		cal-en-2	1.6969226005299485	1.173920833205794	0.07262912542510361	0.013715317639641058	0.0198257257370557	True
1558	qkv_head_3_15_7_7	15		cal-zh-1	1.1938722245021596	1.7285452080749346	0.037432995542491035	0.026318558088565033	0.018177711143509936	True
1559	qkv_head_3_15_7_7	15		cal-zh-2	1.1513726038505583	1.8131772003291484	0.06107822368211493	0.02872586807495238	0.018241006735205775	True
1560	qkv_head_3_15_7_7	15		cal-en-1	1.135574405877674	1.8475223370615046	0.07179885809125676	0.028559859603245887	0.017554237342801916	True
1561	qkv_head_3_15_7_7	15		cal-en-2	1.1601848473848089	1.6934596689881567	0.09000879968472465	0.027977681667069612	0.019167437482868647	True
1562	full_attention_3_19	3		cal-zh-1	3.5035057423469333	1.0411418475973686	0.007292958762378641	0.029520958454847816	0.09933982358390601	True
1563	full_attention_3_19	3		cal-zh-2	3.3387054379475254	1.0478640327840825	0.0007725288967252266	0.02722234371521061	0.0867358589970595	True
1564	full_attention_3_19	3		cal-en-1	3.1815489932502254	1.0650158851014682	-0.03316361475498238	0.03214367677215693	0.09602362171722276	True
1565	full_attention_3_19	3		cal-en-2	3.878649385440971	1.0404340630407702	-0.01965890250448292	0.02765954667582663	0.10311242925114314	True
1566	full_attention_3_19	19		cal-zh-1	1.8149530177697186	1.1382440545712862	0.07790427876627369	0.0697768154982034	0.11126053446114775	True
1567	full_attention_3_19	19		cal-zh-2	1.9164731854823625	1.1431346309607353	0.0410991955548193	0.06061046094538795	0.10161386070854833	True
1568	full_attention_3_19	19		cal-en-1	1.7491009112168554	1.1834864381832542	0.04225530492212469	0.06325326644437294	0.09348340834824509	True
1569	full_attention_3_19	19		cal-en-2	1.8712300497892362	1.1418630467830004	0.05614192432446032	0.06589580654387578	0.10798686734577519	True
1570	qkv_head_3_19_0_0	3		cal-zh-1	2.0854984670003125	1.133216787944821	0.01019621249306897	0.014857293594532826	0.027342396745961815	True
1571	qkv_head_3_19_0_0	3		cal-zh-2	1.9870723736582654	1.1584634266951779	-0.0018425162284300357	0.013816240818171524	0.023698521511307184	True
1572	qkv_head_3_19_0_0	3		cal-en-1	1.5342437777966156	1.3069365173127352	0.01030430236947429	0.01830340678414811	0.02148680337496448	True
1573	qkv_head_3_19_0_0	3		cal-en-2	2.1201169875342547	1.1280818312767504	0.009909625073830485	0.013985067666189349	0.026283536095379322	True
1574	qkv_head_3_19_0_0	19		cal-zh-1	1.1178849792180356	2.2165377292965744	0.0046499970387943864	0.0329963586562794	0.016641329052608407	True
1575	qkv_head_3_19_0_0	19		cal-zh-2	1.1592323025015052	1.9898526684828355	-0.003801660732229644	0.031634755867865245	0.01842952066985896	True
1576	qkv_head_3_19_0_0	19		cal-en-1	1.1329458583528818	2.1696768262977675	-0.010439134481209837	0.03095802142467784	0.016165431519926735	True
1577	qkv_head_3_19_0_0	19		cal-en-2	1.2889207509199032	1.563300983206796	0.011195749867316692	0.03026599367153886	0.02495390696322267	True
1578	qkv_head_3_19_0_1	3		cal-zh-1	2.5187630711028044	1.076622860938784	0.027593404430605956	0.014857293594532826	0.034758692017565575	True
1579	qkv_head_3_19_0_1	3		cal-zh-2	2.5795862702046506	1.0804487709211161	0.009624334978154618	0.013816240818171524	0.032986464587313996	True
1580	qkv_head_3_19_0_1	3		cal-en-1	2.0087660472486717	1.138367925113489	0.022293514033682005	0.01830340678414811	0.032298223874598554	True
1581	qkv_head_3_19_0_1	3		cal-en-2	2.7570744639394955	1.0554761321761392	0.042480105740256784	0.013985067666189349	0.03653125993424357	True
1582	qkv_head_3_19_0_1	19		cal-zh-1	1.264959032568697	1.5526503365102893	0.03905089390940939	0.0329963586562794	0.026882447994020932	True
1583	qkv_head_3_19_0_1	19		cal-zh-2	1.5615812932841884	1.2632222996376288	0.036251209916795896	0.031634755867865245	0.039106531760119856	True
1584	qkv_head_3_19_0_1	19		cal-en-1	1.3615978556844617	1.4350354173064426	0.024409477121123038	0.03095802142467784	0.029373752786669795	True
1585	qkv_head_3_19_0_1	19		cal-en-2	1.286255708942711	1.5455939055159074	0.022900829500475523	0.03026599367153886	0.02518760394170055	True
1586	qkv_head_3_19_0_2	3		cal-zh-1	2.5211946241092402	1.0852539226904345	0.00872695039048518	0.014857293594532826	0.0345155432808637	True
1587	qkv_head_3_19_0_2	3		cal-zh-2	1.9446782525809807	1.1664535786396169	-0.0006935212431518359	0.013816240818171524	0.023034043997580207	True
1588	qkv_head_3_19_0_2	3		cal-en-1	1.6131102551235617	1.2803043927625612	-0.005821267263983616	0.01830340678414811	0.02306124493058981	True
1589	qkv_head_3_19_0_2	3		cal-en-2	2.650766325659462	1.0760700065887085	0.008456914923067799	0.013985067666189349	0.03445049690505209	True
1590	qkv_head_3_19_0_2	19		cal-zh-1	1.2495216253178134	1.591173705125264	0.03525166380337883	0.0329963586562794	0.025911478781330148	True
1591	qkv_head_3_19_0_2	19		cal-zh-2	1.129590575504733	1.9441643598370792	0.05301464232268683	0.031634755867865245	0.018380298921706475	True
1592	qkv_head_3_19_0_2	19		cal-en-1	1.1875903504480259	1.8072805248330301	0.016305153109436272	0.03095802142467784	0.020342966688199834	True
1593	qkv_head_3_19_0_2	19		cal-en-2	1.2341403939624436	1.6438671756654673	0.026992549360899006	0.03026599367153886	0.022722325688106056	True
1594	qkv_head_3_19_0_3	3		cal-zh-1	2.216575668373051	1.1025881722663116	0.03189859971325104	0.014857293594532826	0.029868192229765732	True
1595	qkv_head_3_19_0_3	3		cal-zh-2	2.128056417054863	1.1236921259590196	0.015281965568831976	0.013816240818171524	0.02616529853102976	True
1596	qkv_head_3_19_0_3	3		cal-en-1	1.795995745374389	1.1867545959423593	0.021369642484774822	0.01830340678414811	0.027699779569072224	True
1597	qkv_head_3_19_0_3	3		cal-en-2	2.734766816955948	1.0614473765288424	0.030885235600433467	0.013985067666189349	0.03603183712361735	True
1598	qkv_head_3_19_0_3	19		cal-zh-1	1.184816902622323	1.7293105351494424	0.04789063309884647	0.0329963586562794	0.02260706950332075	True
1599	qkv_head_3_19_0_3	19		cal-zh-2	1.171370320988279	1.7285896466911501	0.06426259462708049	0.031634755867865245	0.02143713761462093	True
1600	qkv_head_3_19_0_3	19		cal-en-1	1.1596469692714422	1.8281242664138537	0.04540362996221306	0.03095802142467784	0.019637820239754338	True
1601	qkv_head_3_19_0_3	19		cal-en-2	1.3830766109679677	1.3747894878009843	0.04929846626936211	0.03026599367153886	0.030448434706732093	True
1602	qkv_head_3_19_0_4	3		cal-zh-1	5.995472429468043	1.0155302829917314	-0.007707986144233166	0.014857293594532826	0.08771426673768525	True
1603	qkv_head_3_19_0_4	3		cal-zh-2	5.909328226804707	1.013085248860895	0.008893499123366382	0.013816240818171524	0.08059015956155022	True
1604	qkv_head_3_19_0_4	3		cal-en-1	4.7777141742777784	1.0242819883677017	-0.007443556555183696	0.01830340678414811	0.08537536247176866	True
1605	qkv_head_3_19_0_4	3		cal-en-2	6.6663819002506095	1.0141988853644075	-0.017924435687340604	0.013985067666189349	0.09192457545461283	True
1606	qkv_head_3_19_0_4	19		cal-zh-1	2.4484935291611762	1.0937984448553595	0.0035440598661662954	0.0329963586562794	0.0738631244501953	True
1607	qkv_head_3_19_0_4	19		cal-zh-2	2.392041464120538	1.093015307500561	0.015439861512262426	0.031634755867865245	0.06923201095536834	True
1608	qkv_head_3_19_0_4	19		cal-en-1	2.312995967032594	1.1095011954660685	-0.0009367005947143569	0.03095802142467784	0.064538712527037	True
1609	qkv_head_3_19_0_4	19		cal-en-2	2.7593023427672687	1.0778057582719596	-0.011636458884361333	0.03026599367153886	0.07748430234586287	True
1610	qkv_head_3_19_0_5	3		cal-zh-1	3.4401770060388115	1.039450705843621	0.017933236438454882	0.014857293594532826	0.0491718553929858	True
1611	qkv_head_3_19_0_5	3		cal-zh-2	3.083094251043406	1.0507367433397956	0.017753455038915025	0.013816240818171524	0.040539909646769234	True
1612	qkv_head_3_19_0_5	3		cal-en-1	2.477267972299883	1.0728437861531464	0.04221032012513901	0.01830340678414811	0.042263789002245256	True
1613	qkv_head_3_19_0_5	3		cal-en-2	3.5644800778195975	1.037200778393787	0.015267715690559345	0.013985067666189349	0.04806156736624133	True
1614	qkv_head_3_19_0_5	19		cal-zh-1	1.5979306672076168	1.2263182592761772	0.05545044107301434	0.0329963586562794	0.042995277126650085	True
1615	qkv_head_3_19_0_5	19		cal-zh-2	1.574325620377718	1.2350100089904645	0.057454294399694426	0.031634755867865245	0.04032631824408083	True
1616	qkv_head_3_19_0_5	19		cal-en-1	1.5118823218306243	1.2682905336389698	0.05671941251429312	0.03095802142467784	0.03690391441819873	True
1617	qkv_head_3_19_0_5	19		cal-en-2	1.6292121347103026	1.2569098767084106	0.009957423365996433	0.03026599367153886	0.039230914700000924	True
1618	qkv_head_3_19_0_6	3		cal-zh-1	2.9653846064017793	1.0573348843372736	0.01286930877838192	0.014857293594532826	0.04166852940412936	True
1619	qkv_head_3_19_0_6	3		cal-zh-2	2.8180262852585307	1.073934224211783	-0.010629550051256383	0.013816240818171524	0.036254110271646565	True
1620	qkv_head_3_19_0_6	3		cal-en-1	2.142750014986537	1.1223653733004137	0.013992972211743577	0.01830340678414811	0.034943723402397285	True
1621	qkv_head_3_19_0_6	3		cal-en-2	3.261163448096577	1.0436156289932699	0.020741204055707604	0.013985067666189349	0.04370152211703617	True
1622	qkv_head_3_19_0_6	19		cal-zh-1	1.5899494285038223	1.3043077098432188	-0.017219585911878235	0.0329963586562794	0.0402225189595519	True
1623	qkv_head_3_19_0_6	19		cal-zh-2	1.619788224910215	1.3079166634217079	-0.03631869099176425	0.031634755867865245	0.0391780351804844	True
1624	qkv_head_3_19_0_6	19		cal-en-1	1.6344298933801917	1.279675594146895	-0.015684389347856254	0.03095802142467784	0.039540267773982125	True
1625	qkv_head_3_19_0_6	19		cal-en-2	1.7581759971270474	1.2230780043627554	-0.008616819829631637	0.03026599367153886	0.04350739970197044	True
1626	qkv_head_3_19_0_7	3		cal-zh-1	3.0222368714638006	1.0500144565664653	0.026159182543642582	0.014857293594532826	0.04276346885583834	True
1627	qkv_head_3_19_0_7	3		cal-zh-2	2.9539138096114854	1.0591363447999562	0.00946980721310175	0.013816240818171524	0.03853326793107368	True
1628	qkv_head_3_19_0_7	3		cal-en-1	2.494638514574262	1.077428917551999	0.029732320196280245	0.01830340678414811	0.04237902173203184	True
1629	qkv_head_3_19_0_7	3		cal-en-2	3.2167006426575626	1.043980252395555	0.023783617482401834	0.013985067666189349	0.04309063897158475	True
1630	qkv_head_3_19_0_7	19		cal-zh-1	1.7290217036938018	1.2128720753174536	0.014978243163975315	0.0329963586562794	0.047038283278670975	True
1631	qkv_head_3_19_0_7	19		cal-zh-2	1.6377452358439077	1.2418436205974897	0.021621127932243522	0.031634755867865245	0.041719963649492486	True
1632	qkv_head_3_19_0_7	19		cal-en-1	1.6794466804847963	1.242883930914406	0.001974064017192797	0.03095802142467784	0.04183202069223066	True
1633	qkv_head_3_19_0_7	19		cal-en-2	1.7727431878009967	1.1928446751150579	0.022210486944154704	0.03026599367153886	0.044979732250616224	True
1634	qkv_head_3_19_1_0	3		cal-zh-1	2.7825090351289523	1.065797847784429	0.014085692114651802	0.010473090019549047	0.027342396745961815	True
1635	qkv_head_3_19_1_0	3		cal-zh-2	2.203071745944631	1.116794224181721	0.009611436838598659	0.012013395384963238	0.023698521511307184	True
1636	qkv_head_3_19_1_0	3		cal-en-1	2.0298353668770632	1.1525346613156129	-0.005233017031133333	0.012200144925359209	0.02148680337496448	True
1637	qkv_head_3_19_1_0	3		cal-en-2	2.9485339309968652	1.0696545609955652	-0.017304302814415216	0.009535011270502469	0.026283536095379322	True
1638	qkv_head_3_19_1_0	19		cal-zh-1	1.2172979487133804	1.6963534210616757	0.023084693349317103	0.023190358202149687	0.016641329052608407	True
1639	qkv_head_3_19_1_0	19		cal-zh-2	1.3275759684504176	1.5008534025058349	0.011286078765047069	0.020834972507219263	0.01842952066985896	True
1640	qkv_head_3_19_1_0	19		cal-en-1	1.236219353936444	1.7102875587647866	-0.003997283083669224	0.022364587904693357	0.016165431519926735	True
1641	qkv_head_3_19_1_0	19		cal-en-2	1.4405393742025332	1.3679433239215018	0.016049109764548385	0.02369635363489858	0.02495390696322267	True
1642	qkv_head_3_19_1_1	3		cal-zh-1	3.43712604779968	1.0356353596087955	0.030278310241722062	0.010473090019549047	0.034758692017565575	True
1643	qkv_head_3_19_1_1	3		cal-zh-2	2.92924309830257	1.0668059144512567	-0.0074676227903948105	0.012013395384963238	0.032986464587313996	True
1644	qkv_head_3_19_1_1	3		cal-en-1	2.83596418951214	1.0712407669694815	-0.006451133052402163	0.012200144925359209	0.032298223874598554	True
1645	qkv_head_3_19_1_1	3		cal-en-2	3.9399130444044297	1.028355314073944	0.02032757046451714	0.009535011270502469	0.03653125993424357	True
1646	qkv_head_3_19_1_1	19		cal-zh-1	1.500816939310341	1.2946917046469057	0.03938535140210023	0.023190358202149687	0.026882447994020932	True
1647	qkv_head_3_19_1_1	19		cal-zh-2	2.1358760516363775	1.1379408199029604	-0.010379977856686462	0.020834972507219263	0.039106531760119856	True
1648	qkv_head_3_19_1_1	19		cal-en-1	1.6675228493622156	1.2696185475003483	-0.021166665352236675	0.022364587904693357	0.029373752786669795	True
1649	qkv_head_3_19_1_1	19		cal-en-2	1.424014587182249	1.3397047737144325	0.047983386373595005	0.02369635363489858	0.02518760394170055	True
1650	qkv_head_3_19_1_2	3		cal-zh-1	3.42751671935123	1.0400152433694096	0.01720116778446891	0.010473090019549047	0.0345155432808637	True
1651	qkv_head_3_19_1_2	3		cal-zh-2	2.151977267859984	1.1223627853177156	0.011806851154515423	0.012013395384963238	0.023034043997580207	True
1652	qkv_head_3_19_1_2	3		cal-en-1	2.1282810221815565	1.1259295406929506	0.011490706915078377	0.012200144925359209	0.02306124493058981	True
1653	qkv_head_3_19_1_2	3		cal-en-2	3.7313754953334604	1.032748743814599	0.01812674054312012	0.009535011270502469	0.03445049690505209	True
1654	qkv_head_3_19_1_2	19		cal-zh-1	1.4936009165933535	1.3367488810332149	0.0078765317448075	0.023190358202149687	0.025911478781330148	True
1655	qkv_head_3_19_1_2	19		cal-zh-2	1.3356657912777758	1.5140428432989839	-0.0032605645207359887	0.020834972507219263	0.018380298921706475	True
1656	qkv_head_3_19_1_2	19		cal-en-1	1.3447933609783191	1.478434772873782	0.010396897278813948	0.022364587904693357	0.020342966688199834	True
1657	qkv_head_3_19_1_2	19		cal-en-2	1.3861541492456273	1.4455738098235227	-0.0010130619314040444	0.02369635363489858	0.022722325688106056	True
1658	qkv_head_3_19_1_3	3		cal-zh-1	3.035974754966082	1.0645450739449565	-0.014694822240865152	0.010473090019549047	0.029868192229765732	True
1659	qkv_head_3_19_1_3	3		cal-zh-2	2.3984883370494194	1.1012291216561803	-0.0020701382915331024	0.012013395384963238	0.02616529853102976	True
1660	qkv_head_3_19_1_3	3		cal-en-1	2.4983295742496066	1.100369149189481	-0.019098036931862603	0.012200144925359209	0.027699779569072224	True
1661	qkv_head_3_19_1_3	3		cal-en-2	3.9285100700802107	1.0395913942990394	-0.02025982178373131	0.009535011270502469	0.03603183712361735	True
1662	qkv_head_3_19_1_3	19		cal-zh-1	1.4208906810784936	1.4575513140023098	-0.0351860615209471	0.023190358202149687	0.02260706950332075	True
1663	qkv_head_3_19_1_3	19		cal-zh-2	1.4320466006350232	1.391820684723216	0.0038298808090327634	0.020834972507219263	0.02143713761462093	True
1664	qkv_head_3_19_1_3	19		cal-en-1	1.348004657882195	1.5351789709385573	-0.02624949154494028	0.022364587904693357	0.019637820239754338	True
1665	qkv_head_3_19_1_3	19		cal-en-2	1.6577687912016315	1.2901509026513862	-0.03779237361297531	0.02369635363489858	0.030448434706732093	True
1666	qkv_head_3_19_1_4	3		cal-zh-1	8.459908044454522	1.0101136542775542	-0.025432214647763855	0.010473090019549047	0.08771426673768525	True
1667	qkv_head_3_19_1_4	3		cal-zh-2	6.8008877899922275	1.013793178155284	-0.018633833317043703	0.012013395384963238	0.08059015956155022	True
1668	qkv_head_3_19_1_4	3		cal-en-1	7.073790472264528	1.0108451248074046	-0.0048545726600397535	0.012200144925359209	0.08537536247176866	True
1669	qkv_head_3_19_1_4	3		cal-en-2	9.703958108195067	1.006557272334737	-0.011560998046766476	0.009535011270502469	0.09192457545461283	True
1670	qkv_head_3_19_1_4	19		cal-zh-1	3.3613556563215083	1.0553444942270056	-0.02417258509917512	0.023190358202149687	0.0738631244501953	True
1671	qkv_head_3_19_1_4	19		cal-zh-2	3.482994381360327	1.0481869756061817	-0.013505030308185447	0.020834972507219263	0.06923201095536834	True
1672	qkv_head_3_19_1_4	19		cal-en-1	3.04425856707465	1.0549263482663185	0.010407921544397979	0.022364587904693357	0.064538712527037	True
1673	qkv_head_3_19_1_4	19		cal-en-2	3.4245161218198725	1.0472901296682826	-0.005378826712944957	0.02369635363489858	0.07748430234586287	True
1674	qkv_head_3_19_1_5	3		cal-zh-1	4.809765091534259	1.0244295720374306	-0.009604724097108636	0.010473090019549047	0.0491718553929858	True
1675	qkv_head_3_19_1_5	3		cal-zh-2	3.5047673685423293	1.0385853470685174	0.015446920776997847	0.012013395384963238	0.040539909646769234	True
1676	qkv_head_3_19_1_5	3		cal-en-1	3.6193432959196095	1.0447835792124716	-0.014279989621687	0.012200144925359209	0.042263789002245256	True
1677	qkv_head_3_19_1_5	3		cal-en-2	5.142827099737889	1.020293699216519	-0.004133253432156208	0.009535011270502469	0.04806156736624133	True
1678	qkv_head_3_19_1_5	19		cal-zh-1	2.102971794756155	1.1342796806671631	0.004013472025741367	0.023190358202149687	0.042995277126650085	True
1679	qkv_head_3_19_1_5	19		cal-zh-2	2.1736591858867524	1.1230415111020595	0.00553046002531862	0.020834972507219263	0.04032631824408083	True
1680	qkv_head_3_19_1_5	19		cal-en-1	1.9315184108026244	1.170542853487285	-0.0023990708192732214	0.022364587904693357	0.03690391441819873	True
1681	qkv_head_3_19_1_5	19		cal-en-2	1.9480963216907325	1.1766939340220803	-0.01636154493234725	0.02369635363489858	0.039230914700000924	True
1682	qkv_head_3_19_1_6	3		cal-zh-1	4.143239575882238	1.0413739498680912	-0.042345409362459306	0.010473090019549047	0.04166852940412936	True
1683	qkv_head_3_19_1_6	3		cal-zh-2	3.176171970536201	1.0524767924736667	0.0031631410455184653	0.012013395384963238	0.036254110271646565	True
1684	qkv_head_3_19_1_6	3		cal-en-1	3.039055452173839	1.0610465440606214	-0.00561836914354845	0.012200144925359209	0.034943723402397285	True
1685	qkv_head_3_19_1_6	3		cal-en-2	4.72835251276859	1.0316550160293325	-0.03828732604133218	0.009535011270502469	0.04370152211703617	True
1686	qkv_head_3_19_1_6	19		cal-zh-1	2.0062129296244624	1.1566853014491987	-0.0047776500119887265	0.023190358202149687	0.0402225189595519	True
1687	qkv_head_3_19_1_6	19		cal-zh-2	2.114811217377802	1.124661646992799	0.01687652772326109	0.020834972507219263	0.0391780351804844	True
1688	qkv_head_3_19_1_6	19		cal-en-1	2.0168186622100888	1.1407438744889662	0.016463741643060612	0.022364587904693357	0.039540267773982125	True
1689	qkv_head_3_19_1_6	19		cal-en-2	2.1010481458126797	1.1443382093200658	-0.01181040765796188	0.02369635363489858	0.04350739970197044	True
1690	qkv_head_3_19_1_7	3		cal-zh-1	4.217921329790827	1.033000150927755	-0.014515030314990166	0.010473090019549047	0.04276346885583834	True
1691	qkv_head_3_19_1_7	3		cal-zh-2	3.3523342546318795	1.0451466752180714	0.007805501498174242	0.012013395384963238	0.03853326793107368	True
1692	qkv_head_3_19_1_7	3		cal-en-1	3.621710734920048	1.0426242522336617	-0.00727635117313468	0.012200144925359209	0.04237902173203184	True
1693	qkv_head_3_19_1_7	3		cal-en-2	4.6446159732387695	1.027751426039221	-0.01651549396750936	0.009535011270502469	0.04309063897158475	True
1694	qkv_head_3_19_1_7	19		cal-zh-1	2.2529179884361703	1.1107117758183942	0.009511472703584881	0.023190358202149687	0.047038283278670975	True
1695	qkv_head_3_19_1_7	19		cal-zh-2	2.2487425516431254	1.1230232517201284	-0.011794461936153182	0.020834972507219263	0.041719963649492486	True
1696	qkv_head_3_19_1_7	19		cal-en-1	2.132186970089224	1.1399277905467933	-0.012726408994722162	0.022364587904693357	0.04183202069223066	True
1697	qkv_head_3_19_1_7	19		cal-en-2	2.1360253832753795	1.1253071177301135	0.010654694067924015	0.02369635363489858	0.044979732250616224	True
1698	qkv_head_3_19_2_0	3		cal-zh-1	3.026485618341182	1.0574260216172024	0.00561562049980279	0.009553179977907358	0.027342396745961815	True
1699	qkv_head_3_19_2_0	3		cal-zh-2	3.8610111184308646	1.0307082097888358	0.01667794090507658	0.006326389624976942	0.023698521511307184	True
1700	qkv_head_3_19_2_0	3		cal-en-1	2.298517799637073	1.1051519753919408	0.010209891352274562	0.010331085188224187	0.02148680337496448	True
1701	qkv_head_3_19_2_0	3		cal-en-2	3.2613213467733138	1.044340298765471	0.01857189516364312	0.00841651374392129	0.026283536095379322	True
1702	qkv_head_3_19_2_0	19		cal-zh-1	1.162307236009242	2.0553958871327027	-0.027567555359970602	0.02942812212766892	0.016641329052608407	True
1703	qkv_head_3_19_2_0	19		cal-zh-2	1.3497337130948401	1.4997992780803537	-0.006602569651204147	0.020478544417953087	0.01842952066985896	True
1704	qkv_head_3_19_2_0	19		cal-en-1	1.241098206080979	1.701677218724101	-0.00575216109105789	0.02216452043321138	0.016165431519926735	True
1705	qkv_head_3_19_2_0	19		cal-en-2	1.3323021444930716	1.4932231762637125	0.011796089152084889	0.027967944335922593	0.02495390696322267	True
1706	qkv_head_3_19_2_1	3		cal-zh-1	3.7608075028772863	1.0336312689526619	0.01299837742783251	0.009553179977907358	0.034758692017565575	True
1707	qkv_head_3_19_2_1	3		cal-zh-2	5.311675094469134	1.0187125728478748	-0.0025885001043482628	0.006326389624976942	0.032986464587313996	True
1708	qkv_head_3_19_2_1	3		cal-en-1	3.2715537653601063	1.0464569438560483	0.01132000485727288	0.010331085188224187	0.032298223874598554	True
1709	qkv_head_3_19_2_1	3		cal-en-2	4.461110594765208	1.027804644613381	-0.007165755834954544	0.00841651374392129	0.03653125993424357	True
1710	qkv_head_3_19_2_1	19		cal-zh-1	1.344064291049003	1.471342495044576	0.015306398295668952	0.02942812212766892	0.026882447994020932	True
1711	qkv_head_3_19_2_1	19		cal-zh-2	2.1471753198780585	1.1243908161167162	0.009515297560881864	0.020478544417953087	0.039106531760119856	True
1712	qkv_head_3_19_2_1	19		cal-en-1	1.655907516479527	1.249496319080306	0.005389288348774363	0.02216452043321138	0.029373752786669795	True
1713	qkv_head_3_19_2_1	19		cal-en-2	1.3473076191989806	1.4960305309047752	-0.002319873863804838	0.027967944335922593	0.02518760394170055	True
1714	qkv_head_3_19_2_2	3		cal-zh-1	3.717673922133411	1.0289743316021907	0.03218899212371525	0.009553179977907358	0.0345155432808637	True
1715	qkv_head_3_19_2_2	3		cal-zh-2	3.7840788954593894	1.039311962191416	-0.008619210584608588	0.006326389624976942	0.023034043997580207	True
1716	qkv_head_3_19_2_2	3		cal-en-1	2.4338411453598816	1.090323626629769	0.013264617988571988	0.010331085188224187	0.02306124493058981	True
1717	qkv_head_3_19_2_2	3		cal-en-2	4.207547571824089	1.0279353027638587	0.006211748858916193	0.00841651374392129	0.03445049690505209	True
1718	qkv_head_3_19_2_2	19		cal-zh-1	1.290199052035188	1.4653017526599506	0.06284361986936358	0.02942812212766892	0.025911478781330148	True
1719	qkv_head_3_19_2_2	19		cal-zh-2	1.3473900306099995	1.5012044530771032	-0.005505639398418808	0.020478544417953087	0.018380298921706475	True
1720	qkv_head_3_19_2_2	19		cal-en-1	1.3142945399715258	1.4319793485851118	0.06265811727748381	0.02216452043321138	0.020342966688199834	True
1721	qkv_head_3_19_2_2	19		cal-en-2	1.2721521354201244	1.5658379603668429	0.025657558948430914	0.027967944335922593	0.022722325688106056	True
1722	qkv_head_3_19_2_3	3		cal-zh-1	3.2806034645724123	1.0492833008478495	0.0020402444129924246	0.009553179977907358	0.029868192229765732	True
1723	qkv_head_3_19_2_3	3		cal-zh-2	4.243152695656292	1.0259327696627831	0.01224675855761978	0.006326389624976942	0.02616529853102976	True
1724	qkv_head_3_19_2_3	3		cal-en-1	2.874201309603021	1.0719803204054479	-0.013456874691381699	0.010331085188224187	0.027699779569072224	True
1725	qkv_head_3_19_2_3	3		cal-en-2	4.412705354829287	1.0307438707434742	-0.016847694788864036	0.00841651374392129	0.03603183712361735	True
1726	qkv_head_3_19_2_3	19		cal-zh-1	1.2427445267226258	1.6177080227277376	0.02976871732742088	0.02942812212766892	0.02260706950332075	True
1727	qkv_head_3_19_2_3	19		cal-zh-2	1.4555606257683937	1.3904730875773093	-0.010912357824107917	0.020478544417953087	0.02143713761462093	True
1728	qkv_head_3_19_2_3	19		cal-en-1	1.3284181017157453	1.4993390203114945	0.011459197524573557	0.02216452043321138	0.019637820239754338	True
1729	qkv_head_3_19_2_3	19		cal-en-2	1.481716437025506	1.3610079871589746	-0.0047013552458635335	0.027967944335922593	0.030448434706732093	True
1730	qkv_head_3_19_2_4	3		cal-zh-1	9.239889101168894	1.0063394113907236	-0.003934711417660071	0.009553179977907358	0.08771426673768525	True
1731	qkv_head_3_19_2_4	3		cal-zh-2	12.798462865214859	1.0046891968778036	-0.02062407363483316	0.006326389624976942	0.08059015956155022	True
1732	qkv_head_3_19_2_4	3		cal-en-1	8.32928177644634	1.0079081025002383	-0.005106506519301906	0.010331085188224187	0.08537536247176866	True
1733	qkv_head_3_19_2_4	3		cal-en-2	10.954718832418045	1.0030020933777748	0.012941582422043376	0.00841651374392129	0.09192457545461283	True
1734	qkv_head_3_19_2_4	19		cal-zh-1	2.68226274578216	1.0686517291127846	0.020979928070396635	0.02942812212766892	0.0738631244501953	True
1735	qkv_head_3_19_2_4	19		cal-zh-2	3.538525503351656	1.0466813067319654	-0.013601521374181007	0.020478544417953087	0.06923201095536834	True
1736	qkv_head_3_19_2_4	19		cal-en-1	3.0531681737038507	1.0485490912720028	0.026917965573879384	0.02216452043321138	0.064538712527037	True
1737	qkv_head_3_19_2_4	19		cal-en-2	2.9080736414184583	1.049668633072461	0.03945219853432187	0.027967944335922593	0.07748430234586287	True
1738	qkv_head_3_19_2_5	3		cal-zh-1	5.2334637616159965	1.016764993368655	0.010125090855209642	0.009553179977907358	0.0491718553929858	True
1739	qkv_head_3_19_2_5	3		cal-zh-2	6.465963099842881	1.009035348789676	0.01986602367961601	0.006326389624976942	0.040539909646769234	True
1740	qkv_head_3_19_2_5	3		cal-en-1	4.209419621349478	1.0289629426938878	0.0020201391007445635	0.010331085188224187	0.042263789002245256	True
1741	qkv_head_3_19_2_5	3		cal-en-2	5.794123369522309	1.0146635169416829	0.0032114035011313823	0.00841651374392129	0.04806156736624133	True
1742	qkv_head_3_19_2_5	19		cal-zh-1	1.7216166536315143	1.1783607067087254	0.05839578070697958	0.02942812212766892	0.042995277126650085	True
1743	qkv_head_3_19_2_5	19		cal-zh-2	2.182547205124634	1.1083429341081652	0.029004261388648114	0.020478544417953087	0.04032631824408083	True
1744	qkv_head_3_19_2_5	19		cal-en-1	1.899759990458787	1.1409973654707082	0.04898955368880537	0.02216452043321138	0.03690391441819873	True
1745	qkv_head_3_19_2_5	19		cal-en-2	1.7158970129289888	1.223272832427042	0.008302762267243849	0.027967944335922593	0.039230914700000924	True
1746	qkv_head_3_19_2_6	3		cal-zh-1	4.509122341544107	1.0337887582590093	-0.03523475118977599	0.009553179977907358	0.04166852940412936	True
1747	qkv_head_3_19_2_6	3		cal-zh-2	5.8031978569972615	1.0126656105779115	0.014209255418040427	0.006326389624976942	0.036254110271646565	True
1748	qkv_head_3_19_2_6	3		cal-en-1	3.541529621834655	1.0470505331805346	-0.015062354492178529	0.010331085188224187	0.034943723402397285	True
1749	qkv_head_3_19_2_6	3		cal-en-2	5.288613744530856	1.0185386712144515	-0.0008561809768503345	0.00841651374392129	0.04370152211703617	True
1750	qkv_head_3_19_2_6	19		cal-zh-1	1.6923407842786387	1.2381723613945836	0.0015144526257030873	0.02942812212766892	0.0402225189595519	True
1751	qkv_head_3_19_2_6	19		cal-zh-2	2.1425643507841876	1.1199285268831674	0.01815588358211394	0.020478544417953087	0.0391780351804844	True
1752	qkv_head_3_19_2_6	19		cal-en-1	2.0515919285393522	1.1500314434047254	-0.007447687026227868	0.02216452043321138	0.039540267773982125	True
1753	qkv_head_3_19_2_6	19		cal-en-2	1.8415808121381656	1.1838268891452661	0.009167829028114402	0.027967944335922593	0.04350739970197044	True
1754	qkv_head_3_19_2_7	3		cal-zh-1	4.6122289349255645	1.030352641952252	-0.02623342924108409	0.009553179977907358	0.04276346885583834	True
1755	qkv_head_3_19_2_7	3		cal-zh-2	6.169236997474183	1.0128649613798038	0.003227016573206896	0.006326389624976942	0.03853326793107368	True
1756	qkv_head_3_19_2_7	3		cal-en-1	4.268742479014749	1.0406267156459508	-0.048150535150653234	0.010331085188224187	0.04237902173203184	True
1757	qkv_head_3_19_2_7	3		cal-en-2	5.243386938737129	1.0241444380455753	-0.027445753534524966	0.00841651374392129	0.04309063897158475	True
1758	qkv_head_3_19_2_7	19		cal-zh-1	1.8548739826606453	1.16044749698432	0.03577473322675038	0.02942812212766892	0.047038283278670975	True
1759	qkv_head_3_19_2_7	19		cal-zh-2	2.258645794889056	1.108672544004509	0.012005506016515413	0.020478544417953087	0.041719963649492486	True
1760	qkv_head_3_19_2_7	19		cal-en-1	2.1504225417924197	1.139392350139298	-0.016493814540710416	0.02216452043321138	0.04183202069223066	True
1761	qkv_head_3_19_2_7	19		cal-en-2	1.8886483409546981	1.1743425099919285	0.006065054747958509	0.027967944335922593	0.044979732250616224	True
1762	qkv_head_3_19_3_0	3		cal-zh-1	2.263036403899644	1.1142092476363383	0.0009624219249411342	0.013462068597038523	0.027342396745961815	True
1763	qkv_head_3_19_3_0	3		cal-zh-2	2.212624248989671	1.1194903521248336	0.002700582226427819	0.011990407410406662	0.023698521511307184	True
1764	qkv_head_3_19_3_0	3		cal-en-1	1.9922576847494224	1.162466947524662	-0.009311333041938515	0.012537383553623561	0.02148680337496448	True
1765	qkv_head_3_19_3_0	3		cal-en-2	2.452550495279973	1.0970966931272315	-0.0039322492195442964	0.0117573850525916	0.026283536095379322	True
1766	qkv_head_3_19_3_0	19		cal-zh-1	1.1470344620912365	2.12563497704614	-0.02269993220792851	0.03083899592194196	0.016641329052608407	True
1767	qkv_head_3_19_3_0	19		cal-zh-2	1.2219231427505264	1.739545442277497	0.00023008187913345674	0.026236501759388804	0.01842952066985896	True
1768	qkv_head_3_19_3_0	19		cal-en-1	1.1821055383712342	1.8600628295791801	0.005122646084338105	0.02543657678463601	0.016165431519926735	True
1769	qkv_head_3_19_3_0	19		cal-en-2	1.3689085158506247	1.4566545961970945	0.004917168840335044	0.02655343498134788	0.02495390696322267	True
1770	qkv_head_3_19_3_1	3		cal-zh-1	2.7691871511082335	1.0725083489165097	-0.0003514875644872713	0.013462068597038523	0.034758692017565575	True
1771	qkv_head_3_19_3_1	3		cal-zh-2	2.941407168935153	1.0691861269966785	-0.015172880132502682	0.011990407410406662	0.032986464587313996	True
1772	qkv_head_3_19_3_1	3		cal-en-1	2.757483700645279	1.0703879857939975	0.006375829436049512	0.012537383553623561	0.032298223874598554	True
1773	qkv_head_3_19_3_1	3		cal-en-2	3.272358946072063	1.0531907256556752	-0.008741524347996854	0.0117573850525916	0.03653125993424357	True
1774	qkv_head_3_19_3_1	19		cal-zh-1	1.3230433266882922	1.5177683135616076	0.005404724657865083	0.03083899592194196	0.026882447994020932	True
1775	qkv_head_3_19_3_1	19		cal-zh-2	1.8007925844224584	1.208148503153002	-0.007093781992972206	0.026236501759388804	0.039106531760119856	True
1776	qkv_head_3_19_3_1	19		cal-en-1	1.523253766109976	1.3190810743707906	0.00572580330625146	0.02543657678463601	0.029373752786669795	True
1777	qkv_head_3_19_3_1	19		cal-en-2	1.379821594363953	1.4546442399446944	-0.0021801455711262623	0.02655343498134788	0.02518760394170055	True
1778	qkv_head_3_19_3_2	3		cal-zh-1	2.756100944616721	1.074959755808442	-0.004378807696259014	0.013462068597038523	0.0345155432808637	True
1779	qkv_head_3_19_3_2	3		cal-zh-2	2.1669019360884727	1.127984171378211	-0.0013201093419036541	0.011990407410406662	0.023034043997580207	True
1780	qkv_head_3_19_3_2	3		cal-en-1	2.1033358531951594	1.1434911000236847	-0.011045660620855713	0.012537383553623561	0.02306124493058981	True
1781	qkv_head_3_19_3_2	3		cal-en-2	3.0925051904141623	1.05542089569992	0.003752215654568811	0.0117573850525916	0.03445049690505209	True
1782	qkv_head_3_19_3_2	19		cal-zh-1	1.2997826892650908	1.5469589131492714	0.009837453390465973	0.03083899592194196	0.025911478781330148	True
1783	qkv_head_3_19_3_2	19		cal-zh-2	1.2465406740147416	1.7793435637934154	-0.04501841260723895	0.026236501759388804	0.018380298921706475	True
1784	qkv_head_3_19_3_2	19		cal-en-1	1.290673813516921	1.613841484609309	-0.016401811469625924	0.02543657678463601	0.020342966688199834	True
1785	qkv_head_3_19_3_2	19		cal-en-2	1.3187845118303492	1.5411388459952406	-0.004051883372144838	0.02655343498134788	0.022722325688106056	True
1786	qkv_head_3_19_3_3	3		cal-zh-1	2.4202366671230244	1.090839103459647	0.014659852201593424	0.013462068597038523	0.029868192229765732	True
1787	qkv_head_3_19_3_3	3		cal-zh-2	2.381392031260729	1.0912874020852326	0.020829456374319866	0.011990407410406662	0.02616529853102976	True
1788	qkv_head_3_19_3_3	3		cal-en-1	2.403963829742848	1.0880742392685174	0.023150217093301503	0.012537383553623561	0.027699779569072224	True
1789	qkv_head_3_19_3_3	3		cal-en-2	3.194652739160785	1.0424326196515339	0.03035420323630286	0.0117573850525916	0.03603183712361735	True
1790	qkv_head_3_19_3_3	19		cal-zh-1	1.2188710802852591	1.6626993723697223	0.03529103656260505	0.03083899592194196	0.02260706950332075	True
1791	qkv_head_3_19_3_3	19		cal-zh-2	1.2830482164775867	1.5702981150821018	0.01309282451386556	0.026236501759388804	0.02143713761462093	True
1792	qkv_head_3_19_3_3	19		cal-en-1	1.2439177545063191	1.6112281857137425	0.03154028826369874	0.02543657678463601	0.019637820239754338	True
1793	qkv_head_3_19_3_3	19		cal-en-2	1.4980637267035484	1.3064296456639646	0.03082464933934023	0.02655343498134788	0.030448434706732093	True
1794	qkv_head_3_19_3_4	3		cal-zh-1	6.603934089806326	1.0135479327799946	-0.01213349921789411	0.013462068597038523	0.08771426673768525	True
1795	qkv_head_3_19_3_4	3		cal-zh-2	6.79569835476213	1.0110811587312458	-0.0005002935240389959	0.011990407410406662	0.08059015956155022	True
1796	qkv_head_3_19_3_4	3		cal-en-1	6.888980674693021	1.011647746042507	-0.006354096125325544	0.012537383553623561	0.08537536247176866	True
1797	qkv_head_3_19_3_4	3		cal-en-2	7.893675386020966	1.0096209912814553	-0.011631869334972698	0.0117573850525916	0.09192457545461283	True
1798	qkv_head_3_19_3_4	19		cal-zh-1	2.5953273307889027	1.0835892682047497	0.00018376801348128424	0.03083899592194196	0.0738631244501953	True
1799	qkv_head_3_19_3_4	19		cal-zh-2	2.818002924103251	1.0679241821223562	0.0041591357013468526	0.026236501759388804	0.06923201095536834	True
1800	qkv_head_3_19_3_4	19		cal-en-1	2.7402488480800944	1.080011476894576	-0.014065369283684133	0.02543657678463601	0.064538712527037	True
1801	qkv_head_3_19_3_4	19		cal-en-2	3.106474312537873	1.0645712896917634	-0.023158524625728264	0.02655343498134788	0.07748430234586287	True
1802	qkv_head_3_19_3_5	3		cal-zh-1	3.7769907941565006	1.0340490257069057	0.010402398302603064	0.013462068597038523	0.0491718553929858	True
1803	qkv_head_3_19_3_5	3		cal-zh-2	3.5217962080323835	1.0416345699502279	0.004185922883888676	0.011990407410406662	0.040539909646769234	True
1804	qkv_head_3_19_3_5	3		cal-en-1	3.5189016553497434	1.0438680672539047	-0.002800810000214135	0.012537383553623561	0.042263789002245256	True
1805	qkv_head_3_19_3_5	3		cal-en-2	4.2079289898545165	1.029393008152982	0.0003979962301125025	0.0117573850525916	0.04806156736624133	True
1806	qkv_head_3_19_3_5	19		cal-zh-1	1.70277259688993	1.2213387302237968	0.01589399331422031	0.03083899592194196	0.042995277126650085	True
1807	qkv_head_3_19_3_5	19		cal-zh-2	1.856755504857647	1.2080142991259295	-0.027675598635190764	0.026236501759388804	0.04032631824408083	True
1808	qkv_head_3_19_3_5	19		cal-en-1	1.777700536714108	1.2253067707071756	-0.019071354219644256	0.02543657678463601	0.03690391441819873	True
1809	qkv_head_3_19_3_5	19		cal-en-2	1.7949730349503732	1.214927057941534	-0.013239397597867183	0.02655343498134788	0.039230914700000924	True
1810	qkv_head_3_19_3_6	3		cal-zh-1	3.2290834818548126	1.0432368014885014	0.0248155269736181	0.013462068597038523	0.04166852940412936	True
1811	qkv_head_3_19_3_6	3		cal-zh-2	3.160564747117047	1.045301034308934	0.025291811420205788	0.011990407410406662	0.036254110271646565	True
1812	qkv_head_3_19_3_6	3		cal-en-1	2.9233378590348806	1.0488581189099788	0.03989177822050918	0.012537383553623561	0.034943723402397285	True
1813	qkv_head_3_19_3_6	3		cal-en-2	3.8082943943372887	1.0245772096435686	0.042044510775221075	0.0117573850525916	0.04370152211703617	True
1814	qkv_head_3_19_3_6	19		cal-zh-1	1.6240963909131372	1.245210475917167	0.02432123420138764	0.03083899592194196	0.0402225189595519	True
1815	qkv_head_3_19_3_6	19		cal-zh-2	1.7737040289958845	1.1878030295037925	0.028063587139056188	0.026236501759388804	0.0391780351804844	True
1816	qkv_head_3_19_3_6	19		cal-en-1	1.8362709067988152	1.1812880526043343	0.014304125712495817	0.02543657678463601	0.039540267773982125	True
1817	qkv_head_3_19_3_6	19		cal-en-2	1.8905752901459383	1.1538558587301522	0.03367670053297332	0.02655343498134788	0.04350739970197044	True
1818	qkv_head_3_19_3_7	3		cal-zh-1	3.318115451047855	1.0445527224529916	0.012723104951678532	0.013462068597038523	0.04276346885583834	True
1819	qkv_head_3_19_3_7	3		cal-zh-2	3.3330582795045767	1.0371486468621294	0.03398400109641232	0.011990407410406662	0.03853326793107368	True
1820	qkv_head_3_19_3_7	3		cal-en-1	3.477374692414643	1.0287443762656172	0.04936115590680117	0.012537383553623561	0.04237902173203184	True
1821	qkv_head_3_19_3_7	3		cal-en-2	3.7750278308163407	1.0300254730598395	0.024731257908262593	0.0117573850525916	0.04309063897158475	True
1822	qkv_head_3_19_3_7	19		cal-zh-1	1.8254738968268507	1.1968077518122668	-0.0019203305139621637	0.03083899592194196	0.047038283278670975	True
1823	qkv_head_3_19_3_7	19		cal-zh-2	1.888917606600957	1.1878867039599965	-0.012399420688157026	0.026236501759388804	0.041719963649492486	True
1824	qkv_head_3_19_3_7	19		cal-en-1	1.9248420810611981	1.1704285995035664	-0.00013187620552227136	0.02543657678463601	0.04183202069223066	True
1825	qkv_head_3_19_3_7	19		cal-en-2	1.9920302265620167	1.1759795457913054	-0.02915593237923403	0.02655343498134788	0.044979732250616224	True
1826	qkv_head_3_19_4_0	3		cal-zh-1	2.072045786278107	1.1397465297762017	0.00321990415432951	0.01503991949084825	0.027342396745961815	True
1827	qkv_head_3_19_4_0	3		cal-zh-2	1.7741439860154957	1.1956170955530063	0.01829413403106612	0.01597072034828748	0.023698521511307184	True
1828	qkv_head_3_19_4_0	3		cal-en-1	1.6089621536528447	1.2773526834497277	-0.0008533880762724411	0.01705834154486236	0.02148680337496448	True
1829	qkv_head_3_19_4_0	3		cal-en-2	1.931342903480455	1.1677389451663167	0.0016188629287076485	0.01589169311153847	0.026283536095379322	True
1830	qkv_head_3_19_4_0	19		cal-zh-1	1.2332977225218962	1.6781378951385293	0.012984180598096804	0.022643717245781354	0.016641329052608407	True
1831	qkv_head_3_19_4_0	19		cal-zh-2	1.257413426811331	1.6345600003443244	0.006943965000321675	0.023957241643953263	0.01842952066985896	True
1832	qkv_head_3_19_4_0	19		cal-en-1	1.191828021787621	1.8167202969003695	0.0075643649552849775	0.024641195720801038	0.016165431519926735	True
1833	qkv_head_3_19_4_0	19		cal-en-2	1.4797382258586642	1.3837480852896766	-0.021542474517182098	0.02333515508178417	0.02495390696322267	True
1834	qkv_head_3_19_4_1	3		cal-zh-1	2.505484379856172	1.0841110862161225	0.013783716568662327	0.01503991949084825	0.034758692017565575	True
1835	qkv_head_3_19_4_1	3		cal-zh-2	2.2798036482729485	1.1037892957336048	0.016585339876716787	0.01597072034828748	0.032986464587313996	True
1836	qkv_head_3_19_4_1	3		cal-en-1	2.1434019072814454	1.1320400138495463	-0.0024339993196056866	0.01705834154486236	0.032298223874598554	True
1837	qkv_head_3_19_4_1	3		cal-en-2	2.4954567934993994	1.085564352469067	0.012400924069392992	0.01589169311153847	0.03653125993424357	True
1838	qkv_head_3_19_4_1	19		cal-zh-1	1.5424767603386398	1.2992643983563328	0.012715349172285307	0.022643717245781354	0.026882447994020932	True
1839	qkv_head_3_19_4_1	19		cal-zh-2	1.9147385576070304	1.1729972525041314	-0.0005106094581814148	0.023957241643953263	0.039106531760119856	True
1840	qkv_head_3_19_4_1	19		cal-en-1	1.5595812068099033	1.3083090212744604	-0.004735293011890403	0.024641195720801038	0.029373752786669795	True
1841	qkv_head_3_19_4_1	19		cal-en-2	1.4554993371690583	1.3484531054596585	0.021582906535208685	0.02333515508178417	0.02518760394170055	True
1842	qkv_head_3_19_4_2	3		cal-zh-1	2.458673171379775	1.071350557948831	0.048285616153865285	0.01503991949084825	0.0345155432808637	True
1843	qkv_head_3_19_4_2	3		cal-zh-2	1.71671908334549	1.1902920911134627	0.04611139122368427	0.01597072034828748	0.023034043997580207	True
1844	qkv_head_3_19_4_2	3		cal-en-1	1.6464962968976118	1.2179089320357968	0.04315953659684623	0.01705834154486236	0.02306124493058981	True
1845	qkv_head_3_19_4_2	3		cal-en-2	2.3448466326491384	1.081655895483466	0.04640199369171745	0.01589169311153847	0.03445049690505209	True
1846	qkv_head_3_19_4_2	19		cal-zh-1	1.5073366499870735	1.3172426469578151	0.016335718607414167	0.022643717245781354	0.025911478781330148	True
1847	qkv_head_3_19_4_2	19		cal-zh-2	1.233638342902848	1.6079483803860615	0.04350273269871011	0.023957241643953263	0.018380298921706475	True
1848	qkv_head_3_19_4_2	19		cal-en-1	1.2567693100488861	1.522309848876378	0.061831631874707235	0.024641195720801038	0.020342966688199834	True
1849	qkv_head_3_19_4_2	19		cal-en-2	1.3401831206641137	1.3763283471927583	0.07808813904570042	0.02333515508178417	0.022722325688106056	True
1850	qkv_head_3_19_4_3	3		cal-zh-1	2.2369118913020665	1.1263813522592974	-0.015072580681710121	0.01503991949084825	0.029868192229765732	True
1851	qkv_head_3_19_4_3	3		cal-zh-2	1.9460186901388992	1.187806829564421	-0.03139355553865929	0.01597072034828748	0.02616529853102976	True
1852	qkv_head_3_19_4_3	3		cal-en-1	1.9138709044393631	1.178618172007164	-0.008033730022693036	0.01705834154486236	0.027699779569072224	True
1853	qkv_head_3_19_4_3	3		cal-en-2	2.470435825088311	1.0895755287015574	0.008328646783897603	0.01589169311153847	0.03603183712361735	True
1854	qkv_head_3_19_4_3	19		cal-zh-1	1.4345307978388637	1.4368562790439037	-0.030605980363700533	0.022643717245781354	0.02260706950332075	True
1855	qkv_head_3_19_4_3	19		cal-zh-2	1.3517682064881473	1.510679184489739	-0.014860987725951916	0.023957241643953263	0.02143713761462093	True
1856	qkv_head_3_19_4_3	19		cal-en-1	1.2792933967897209	1.6052351325025795	-0.0009166460088404545	0.024641195720801038	0.019637820239754338	True
1857	qkv_head_3_19_4_3	19		cal-en-2	1.633761282166293	1.2520864620188779	0.012801703228450862	0.02333515508178417	0.030448434706732093	True
1858	qkv_head_3_19_4_4	3		cal-zh-1	5.901982601001556	1.0119829584953224	0.015427965260259364	0.01503991949084825	0.08771426673768525	True
1859	qkv_head_3_19_4_4	3		cal-zh-2	5.115386710010622	1.0137268751345612	0.0293431831445493	0.01597072034828748	0.08059015956155022	True
1860	qkv_head_3_19_4_4	3		cal-en-1	5.084006634620467	1.0158050177342408	0.020174309306697384	0.01705834154486236	0.08537536247176866	True
1861	qkv_head_3_19_4_4	3		cal-en-2	5.86242284584351	1.01348115338554	0.007932177578265216	0.01589169311153847	0.09192457545461283	True
1862	qkv_head_3_19_4_4	19		cal-zh-1	3.402595084447559	1.0431105042959274	0.009625230782433339	0.022643717245781354	0.0738631244501953	True
1863	qkv_head_3_19_4_4	19		cal-zh-2	3.034956957498005	1.0502251228358828	0.02423520459549694	0.023957241643953263	0.06923201095536834	True
1864	qkv_head_3_19_4_4	19		cal-en-1	2.8061356186655773	1.0713962874558778	-0.002769784478383463	0.024641195720801038	0.064538712527037	True
1865	qkv_head_3_19_4_4	19		cal-en-2	3.476048285990867	1.0468459206524412	-0.008615312816126597	0.02333515508178417	0.07748430234586287	True
1866	qkv_head_3_19_4_5	3		cal-zh-1	3.43022966249946	1.0491850988089955	-0.011829339337275443	0.01503991949084825	0.0491718553929858	True
1867	qkv_head_3_19_4_5	3		cal-zh-2	2.7424337857599532	1.0803833419386522	-0.015269831012542912	0.01597072034828748	0.040539909646769234	True
1868	qkv_head_3_19_4_5	3		cal-en-1	2.7028834737412812	1.0909270214412954	-0.033715076878110116	0.01705834154486236	0.042263789002245256	True
1869	qkv_head_3_19_4_5	3		cal-en-2	3.212408192306718	1.062191849718755	-0.028610421842625997	0.01589169311153847	0.04806156736624133	True
1870	qkv_head_3_19_4_5	19		cal-zh-1	2.115784927892891	1.114290658459242	0.03391473021428098	0.022643717245781354	0.042995277126650085	True
1871	qkv_head_3_19_4_5	19		cal-zh-2	1.9443479082982456	1.1551070047376173	0.015708397020930145	0.023957241643953263	0.04032631824408083	True
1872	qkv_head_3_19_4_5	19		cal-en-1	1.79729391880308	1.2000751659881463	0.004237786897300547	0.024641195720801038	0.03690391441819873	True
1873	qkv_head_3_19_4_5	19		cal-en-2	1.9194584196179962	1.141723567684779	0.042259107359262804	0.02333515508178417	0.039230914700000924	True
1874	qkv_head_3_19_4_6	3		cal-zh-1	2.9996620852043985	1.0827038272378593	-0.05813746732948228	0.01503991949084825	0.04166852940412936	True
1875	qkv_head_3_19_4_6	3		cal-zh-2	2.508290857240133	1.1049564182651517	-0.03049721332537049	0.01597072034828748	0.036254110271646565	True
1876	qkv_head_3_19_4_6	3		cal-en-1	2.333073888131262	1.1389276058204127	-0.06027655180521394	0.01705834154486236	0.034943723402397285	True
1877	qkv_head_3_19_4_6	3		cal-en-2	2.9996690313419108	1.0908045617863822	-0.07922545795432624	0.01589169311153847	0.04370152211703617	True
1878	qkv_head_3_19_4_6	19		cal-zh-1	2.0512706276199437	1.1547857590199995	-0.014747770357631593	0.022643717245781354	0.0402225189595519	True
1879	qkv_head_3_19_4_6	19		cal-zh-2	1.9354503772070102	1.1835216381582598	-0.021909501451898607	0.023957241643953263	0.0391780351804844	True
1880	qkv_head_3_19_4_6	19		cal-en-1	1.9342000312609293	1.2053788256042473	-0.05180526888817294	0.024641195720801038	0.039540267773982125	True
1881	qkv_head_3_19_4_6	19		cal-en-2	2.1250761937601	1.1397827238972795	-0.010659373118337522	0.02333515508178417	0.04350739970197044	True
1882	qkv_head_3_19_4_7	3		cal-zh-1	3.049631317715574	1.072555868885032	-0.037934411876185674	0.01503991949084825	0.04276346885583834	True
1883	qkv_head_3_19_4_7	3		cal-zh-2	2.6501793298761465	1.0984086017820525	-0.041884746077635454	0.01597072034828748	0.03853326793107368	True
1884	qkv_head_3_19_4_7	3		cal-en-1	2.7496351602397997	1.1067791036733792	-0.07818126659529209	0.01705834154486236	0.04237902173203184	True
1885	qkv_head_3_19_4_7	3		cal-en-2	2.9294792332925947	1.0803827945742528	-0.042321190450066305	0.01589169311153847	0.04309063897158475	True
1886	qkv_head_3_19_4_7	19		cal-zh-1	2.304320382179407	1.1092747341274902	0.0012931720324791277	0.022643717245781354	0.047038283278670975	True
1887	qkv_head_3_19_4_7	19		cal-zh-2	1.9993558329150145	1.1481086422752702	0.010097959195276913	0.023957241643953263	0.041719963649492486	True
1888	qkv_head_3_19_4_7	19		cal-en-1	1.9868156096322933	1.1703358214102413	-0.019272349251367078	0.024641195720801038	0.04183202069223066	True
1889	qkv_head_3_19_4_7	19		cal-en-2	2.164271988002359	1.122808428422881	0.008141075418265278	0.02333515508178417	0.044979732250616224	True
1890	qkv_head_3_19_5_0	3		cal-zh-1	2.864204815123912	1.060161177125608	0.01764600260726723	0.010120556800467573	0.027342396745961815	True
1891	qkv_head_3_19_5_0	3		cal-zh-2	2.5765955994477285	1.0850359509347187	3.8595380212303216e-05	0.009979737537888988	0.023698521511307184	True
1892	qkv_head_3_19_5_0	3		cal-en-1	2.061436289544246	1.146903596738048	-0.005257233620139508	0.011954428181041804	0.02148680337496448	True
1893	qkv_head_3_19_5_0	3		cal-en-2	2.5637308279098283	1.0857774576469388	0.0005335542058671378	0.01113146149702431	0.026283536095379322	True
1894	qkv_head_3_19_5_0	19		cal-zh-1	1.3339114539611527	1.5512888306334256	-0.023223259381168454	0.01935323953441273	0.016641329052608407	True
1895	qkv_head_3_19_5_0	19		cal-zh-2	1.3975759905401497	1.4564034162374808	-0.01686711853390505	0.019205264718971122	0.01842952066985896	True
1896	qkv_head_3_19_5_0	19		cal-en-1	1.3426297874930577	1.5253579009372469	-0.0158436923008633	0.01836550098968198	0.016165431519926735	True
1897	qkv_head_3_19_5_0	19		cal-en-2	1.6281650167421498	1.2784613478886926	-0.011397582316737325	0.01959420894273093	0.02495390696322267	True
1898	qkv_head_3_19_5_1	3		cal-zh-1	3.5766387065076084	1.0413963553538896	0.0004660498406536023	0.010120556800467573	0.034758692017565575	True
1899	qkv_head_3_19_5_1	3		cal-zh-2	3.453402222278112	1.04479362133135	-0.00010416711911786095	0.009979737537888988	0.032986464587313996	True
1900	qkv_head_3_19_5_1	3		cal-en-1	2.8699248532073764	1.0622352076033763	0.01168516891217451	0.011954428181041804	0.032298223874598554	True
1901	qkv_head_3_19_5_1	3		cal-en-2	3.4293572328790543	1.04496144031298	0.001483583846892352	0.01113146149702431	0.03653125993424357	True
1902	qkv_head_3_19_5_1	19		cal-zh-1	1.7173525209007423	1.2363581884139376	-0.0071502889755821215	0.01935323953441273	0.026882447994020932	True
1903	qkv_head_3_19_5_1	19		cal-zh-2	2.278051175922406	1.118753668704759	-0.010618362851317925	0.019205264718971122	0.039106531760119856	True
1904	qkv_head_3_19_5_1	19		cal-en-1	1.8732972634373193	1.1712511845350468	0.015265922955318322	0.01836550098968198	0.029373752786669795	True
1905	qkv_head_3_19_5_1	19		cal-en-2	1.6420227726417147	1.2773798321719947	-0.01704724563568929	0.01959420894273093	0.02518760394170055	True
1906	qkv_head_3_19_5_2	3		cal-zh-1	3.498833611864527	1.0259187872581552	0.05706869904340295	0.010120556800467573	0.0345155432808637	True
1907	qkv_head_3_19_5_2	3		cal-zh-2	2.4691372866785124	1.0697792393144496	0.04995483180266182	0.009979737537888988	0.023034043997580207	True
1908	qkv_head_3_19_5_2	3		cal-en-1	2.1277038069594836	1.1029535667906307	0.05035767189786231	0.011954428181041804	0.02306124493058981	True
1909	qkv_head_3_19_5_2	3		cal-en-2	3.239136622820528	1.0466126134523321	0.01393489399779532	0.01113146149702431	0.03445049690505209	True
1910	qkv_head_3_19_5_2	19		cal-zh-1	1.6576993171443222	1.238132807141916	0.016658377085712085	0.01935323953441273	0.025911478781330148	True
1911	qkv_head_3_19_5_2	19		cal-zh-2	1.3840932789084233	1.4462157514637997	0.00011523149222040011	0.019205264718971122	0.018380298921706475	True
1912	qkv_head_3_19_5_2	19		cal-en-1	1.4992959521905067	1.3535548534203279	-0.009456413965993933	0.01836550098968198	0.020342966688199834	True
1913	qkv_head_3_19_5_2	19		cal-en-2	1.5439488540003035	1.3313978884655935	-0.016816192351751177	0.01959420894273093	0.022722325688106056	True
1914	qkv_head_3_19_5_3	3		cal-zh-1	3.125175603087933	1.0589364417899692	-0.009640847306778251	0.010120556800467573	0.029868192229765732	True
1915	qkv_head_3_19_5_3	3		cal-zh-2	2.8056371523629346	1.0701013930312073	0.000468655943411517	0.009979737537888988	0.02616529853102976	True
1916	qkv_head_3_19_5_3	3		cal-en-1	2.5321947311145148	1.0928224168007277	-0.00927668464534137	0.011954428181041804	0.027699779569072224	True
1917	qkv_head_3_19_5_3	3		cal-en-2	3.3974451923038487	1.0495865147434347	-0.010020912975238445	0.01113146149702431	0.03603183712361735	True
1918	qkv_head_3_19_5_3	19		cal-zh-1	1.52674592478552	1.3070017582872662	0.01436953847935592	0.01935323953441273	0.02260706950332075	True
1919	qkv_head_3_19_5_3	19		cal-zh-2	1.4903792352351335	1.3352122031826874	0.011063261547613333	0.019205264718971122	0.02143713761462093	True
1920	qkv_head_3_19_5_3	19		cal-en-1	1.4542550393211728	1.3600349752583902	0.013325365467508727	0.01836550098968198	0.019637820239754338	True
1921	qkv_head_3_19_5_3	19		cal-en-2	1.8292341292393266	1.17715068372842	0.0220937765650442	0.01959420894273093	0.030448434706732093	True
1922	qkv_head_3_19_5_4	3		cal-zh-1	8.714380005972753	1.0054735804274206	0.010121454135922393	0.010120556800467573	0.08771426673768525	True
1923	qkv_head_3_19_5_4	3		cal-zh-2	8.138294033694727	1.0077910120082527	-0.0012438581491357333	0.009979737537888988	0.08059015956155022	True
1924	qkv_head_3_19_5_4	3		cal-en-1	7.2342419977553	1.0129529632748457	-0.023094758209550738	0.011954428181041804	0.08537536247176866	True
1925	qkv_head_3_19_5_4	3		cal-en-2	8.309984393341875	1.0062844550316188	0.008486062241438237	0.01113146149702431	0.09192457545461283	True
1926	qkv_head_3_19_5_4	19		cal-zh-1	3.946974648744197	1.0341661875528612	-0.0016180244507736324	0.01935323953441273	0.0738631244501953	True
1927	qkv_head_3_19_5_4	19		cal-zh-2	3.744184228004333	1.0386531932717737	-0.0033295301966638213	0.019205264718971122	0.06923201095536834	True
1928	qkv_head_3_19_5_4	19		cal-en-1	3.6704478559956653	1.0444833975209034	-0.017514333936330177	0.01836550098968198	0.064538712527037	True
1929	qkv_head_3_19_5_4	19		cal-en-2	4.088202459851134	1.0338235071272697	-0.009575479862041616	0.01959420894273093	0.07748430234586287	True
1930	qkv_head_3_19_5_5	3		cal-zh-1	4.953457295278062	1.019521136936867	0.007138685197709704	0.010120556800467573	0.0491718553929858	True
1931	qkv_head_3_19_5_5	3		cal-zh-2	4.176386136420494	1.028103857692646	0.007317009393367317	0.009979737537888988	0.040539909646769234	True
1932	qkv_head_3_19_5_5	3		cal-en-1	3.673891454687422	1.0391702347764131	0.00023137679224362968	0.011954428181041804	0.042263789002245256	True
1933	qkv_head_3_19_5_5	3		cal-en-2	4.42654440119617	1.0252247537269021	0.005519324423647012	0.01113146149702431	0.04806156736624133	True
1934	qkv_head_3_19_5_5	19		cal-zh-1	2.3991846892715545	1.079932473559699	0.040386765389798275	0.01935323953441273	0.042995277126650085	True
1935	qkv_head_3_19_5_5	19		cal-zh-2	2.3202966471363395	1.1050329728857755	0.0059977164183980915	0.019205264718971122	0.04032631824408083	True
1936	qkv_head_3_19_5_5	19		cal-en-1	2.239309842542372	1.1144088039922317	0.005782863025053763	0.01836550098968198	0.03690391441819873	True
1937	qkv_head_3_19_5_5	19		cal-en-2	2.2396778704249125	1.1186258717927713	-0.0018671943816082643	0.01959420894273093	0.039230914700000924	True
1938	qkv_head_3_19_5_6	3		cal-zh-1	4.298068123111678	1.0439255523119098	-0.0633817729018639	0.010120556800467573	0.04166852940412936	True
1939	qkv_head_3_19_5_6	3		cal-zh-2	3.800544365962025	1.046183039363308	-0.03401062311279312	0.009979737537888988	0.036254110271646565	True
1940	qkv_head_3_19_5_6	3		cal-en-1	3.117023189291579	1.0663497254122527	-0.029326939059613796	0.011954428181041804	0.034943723402397285	True
1941	qkv_head_3_19_5_6	3		cal-en-2	4.0947439492169675	1.0429953558325438	-0.045068395897875896	0.01113146149702431	0.04370152211703617	True
1942	qkv_head_3_19_5_6	19		cal-zh-1	2.278202950207554	1.0961672352671505	0.031099055019614446	0.01935323953441273	0.0402225189595519	True
1943	qkv_head_3_19_5_6	19		cal-zh-2	2.2499444402002537	1.102933783635673	0.02431423119959171	0.019205264718971122	0.0391780351804844	True
1944	qkv_head_3_19_5_6	19		cal-en-1	2.3551575501317834	1.0939138946920226	0.02055030423241378	0.01836550098968198	0.039540267773982125	True
1945	qkv_head_3_19_5_6	19		cal-en-2	2.4287397202245056	1.093819301350559	0.00709196575375431	0.01959420894273093	0.04350739970197044	True
1946	qkv_head_3_19_5_7	3		cal-zh-1	4.404064191744111	1.042281718438433	-0.06410262632155717	0.010120556800467573	0.04276346885583834	True
1947	qkv_head_3_19_5_7	3		cal-zh-2	4.020784164410373	1.0413435665278064	-0.03343855969314571	0.009979737537888988	0.03853326793107368	True
1948	qkv_head_3_19_5_7	3		cal-en-1	3.7255099792537214	1.0509053693205175	-0.04401340582629712	0.011954428181041804	0.04237902173203184	True
1949	qkv_head_3_19_5_7	3		cal-en-2	4.014343103553776	1.0370119069833446	-0.01676370453845085	0.01113146149702431	0.04309063897158475	True
1950	qkv_head_3_19_5_7	19		cal-zh-1	2.6146930344723898	1.0757786440741548	0.014558558998931822	0.01935323953441273	0.047038283278670975	True
1951	qkv_head_3_19_5_7	19		cal-zh-2	2.3885083749009715	1.0995200285609714	0.0032219204079202935	0.019205264718971122	0.041719963649492486	True
1952	qkv_head_3_19_5_7	19		cal-en-1	2.4751504594166565	1.0866646520967866	0.013560633565249216	0.01836550098968198	0.04183202069223066	True
1953	qkv_head_3_19_5_7	19		cal-en-2	2.497749795713766	1.0880774281000423	0.006720222042655801	0.01959420894273093	0.044979732250616224	True
1954	qkv_head_3_19_6_0	3		cal-zh-1	2.7695434107970134	1.0697429965054408	0.006266491527882456	0.010561068410279402	0.027342396745961815	True
1955	qkv_head_3_19_6_0	3		cal-zh-2	2.5788038847500516	1.0959516508777163	-0.024116415788020887	0.010071504051652823	0.023698521511307184	True
1956	qkv_head_3_19_6_0	3		cal-en-1	2.1830698674909814	1.1208845639643907	0.007053095399642005	0.011032274592116392	0.02148680337496448	True
1957	qkv_head_3_19_6_0	3		cal-en-2	2.618053602110835	1.0910735729805938	-0.020109259541608696	0.01095366100030517	0.026283536095379322	True
1958	qkv_head_3_19_6_0	19		cal-zh-1	1.2661088153364215	1.6728193908133484	-0.019935705667867315	0.02198700268958476	0.016641329052608407	True
1959	qkv_head_3_19_6_0	19		cal-zh-2	1.369256714102535	1.50609368267693	-0.026574608970507212	0.02027127884038257	0.01842952066985896	True
1960	qkv_head_3_19_6_0	19		cal-en-1	1.2505303721300494	1.6266707628595942	0.01767511571931975	0.02102774583370064	0.016165431519926735	True
1961	qkv_head_3_19_6_0	19		cal-en-2	1.4990857188590285	1.3720069060623623	-0.02445213101040237	0.022838542356895572	0.02495390696322267	True
1962	qkv_head_3_19_6_1	3		cal-zh-1	3.440006703835495	1.0452103926311929	-0.0002406517215370702	0.010561068410279402	0.034758692017565575	True
1963	qkv_head_3_19_6_1	3		cal-zh-2	3.405480463803421	1.0397692119515956	0.01981792168893551	0.010071504051652823	0.032986464587313996	True
1964	qkv_head_3_19_6_1	3		cal-en-1	3.092422882902228	1.0562951861248628	0.0013381324894774563	0.011032274592116392	0.032298223874598554	True
1965	qkv_head_3_19_6_1	3		cal-en-2	3.484408457328556	1.0447772427470097	-0.002757037892243579	0.01095366100030517	0.03653125993424357	True
1966	qkv_head_3_19_6_1	19		cal-zh-1	1.5749245092518878	1.2881218789492677	0.00592571311205092	0.02198700268958476	0.026882447994020932	True
1967	qkv_head_3_19_6_1	19		cal-zh-2	2.1705045958507934	1.125103707910314	0.002738623079835217	0.02027127884038257	0.039106531760119856	True
1968	qkv_head_3_19_6_1	19		cal-en-1	1.7124816189828942	1.2259117345468413	0.006710869516901323	0.02102774583370064	0.029373752786669795	True
1969	qkv_head_3_19_6_1	19		cal-en-2	1.469049344953428	1.3320419745659762	0.026378574341161438	0.022838542356895572	0.02518760394170055	True
1970	qkv_head_3_19_6_2	3		cal-zh-1	3.4334401212127954	1.0505642547086964	-0.016441346805177847	0.010561068410279402	0.0345155432808637	True
1971	qkv_head_3_19_6_2	3		cal-zh-2	2.5378992706097705	1.1096819468313184	-0.04598283122072932	0.010071504051652823	0.023034043997580207	True
1972	qkv_head_3_19_6_2	3		cal-en-1	2.3368951994864116	1.117947864971283	-0.02189656183371111	0.011032274592116392	0.02306124493058981	True
1973	qkv_head_3_19_6_2	3		cal-en-2	3.304325394554672	1.0506222974491746	-0.0042658619337436685	0.01095366100030517	0.03445049690505209	True
1974	qkv_head_3_19_6_2	19		cal-zh-1	1.5713573347835192	1.3333641911274354	-0.03407896151799103	0.02198700268958476	0.025911478781330148	True
1975	qkv_head_3_19_6_2	19		cal-zh-2	1.403138584154029	1.5474946088877406	-0.08087614619043833	0.02027127884038257	0.018380298921706475	True
1976	qkv_head_3_19_6_2	19		cal-en-1	1.42558209097439	1.4735696289309337	-0.04979913104419283	0.02102774583370064	0.020342966688199834	True
1977	qkv_head_3_19_6_2	19		cal-en-2	1.404623247256463	1.411807398955596	0.00848426663657045	0.022838542356895572	0.022722325688106056	True
1978	qkv_head_3_19_6_3	3		cal-zh-1	2.9967219620479897	1.0596083420219693	0.003189353600622857	0.010561068410279402	0.029868192229765732	True
1979	qkv_head_3_19_6_3	3		cal-zh-2	2.7767170110158834	1.068809384826047	0.007545301355619474	0.010071504051652823	0.02616529853102976	True
1980	qkv_head_3_19_6_3	3		cal-en-1	2.700771134519529	1.075663750037529	0.0019767976884165414	0.011032274592116392	0.027699779569072224	True
1981	qkv_head_3_19_6_3	3		cal-en-2	3.437599611093041	1.045028613598313	0.0005442471107070093	0.01095366100030517	0.03603183712361735	True
1982	qkv_head_3_19_6_3	19		cal-zh-1	1.438166050448588	1.3987200249301575	-0.005409071305181575	0.02198700268958476	0.02260706950332075	True
1983	qkv_head_3_19_6_3	19		cal-zh-2	1.44285332492995	1.3643837438203303	0.01726110727963837	0.02027127884038257	0.02143713761462093	True
1984	qkv_head_3_19_6_3	19		cal-en-1	1.3671663366979512	1.4639316324058447	0.001620175148204325	0.02102774583370064	0.019637820239754338	True
1985	qkv_head_3_19_6_3	19		cal-en-2	1.6635838565477346	1.2478089838757047	0.0037209250958413678	0.022838542356895572	0.030448434706732093	True
1986	qkv_head_3_19_6_4	3		cal-zh-1	8.3760606030172	1.0085035459699634	-0.010724389112631892	0.010561068410279402	0.08771426673768525	True
1987	qkv_head_3_19_6_4	3		cal-zh-2	8.073018614700398	1.0089003437811246	-0.009049763384085032	0.010071504051652823	0.08059015956155022	True
1988	qkv_head_3_19_6_4	3		cal-en-1	7.8056121654067825	1.008647627081025	-0.002600256428982258	0.011032274592116392	0.08537536247176866	True
1989	qkv_head_3_19_6_4	3		cal-en-2	8.440348095973526	1.0057453222997277	0.011225598258131856	0.01095366100030517	0.09192457545461283	True
1990	qkv_head_3_19_6_4	19		cal-zh-1	3.5275208340814914	1.0500450751824506	-0.023492094722182135	0.02198700268958476	0.0738631244501953	True
1991	qkv_head_3_19_6_4	19		cal-zh-2	3.6042058995135675	1.055319089810811	-0.04775461857156652	0.02027127884038257	0.06923201095536834	True
1992	qkv_head_3_19_6_4	19		cal-en-1	3.248190430622026	1.058312447214763	-0.02128373504490743	0.02102774583370064	0.064538712527037	True
1993	qkv_head_3_19_6_4	19		cal-en-2	3.5278971245605764	1.0398496917530653	0.00948347211712724	0.022838542356895572	0.07748430234586287	True
1994	qkv_head_3_19_6_5	3		cal-zh-1	4.7375305759398625	1.017520777046545	0.02509878251455399	0.010561068410279402	0.0491718553929858	True
1995	qkv_head_3_19_6_5	3		cal-zh-2	4.141390468070362	1.0288634395605034	0.006359073347568937	0.010071504051652823	0.040539909646769234	True
1996	qkv_head_3_19_6_5	3		cal-en-1	3.9403935730781234	1.0285756418313345	0.019481693856887188	0.011032274592116392	0.042263789002245256	True
1997	qkv_head_3_19_6_5	3		cal-en-2	4.493239538406342	1.0240494722492406	0.00716330935889083	0.01095366100030517	0.04806156736624133	True
1998	qkv_head_3_19_6_5	19		cal-zh-1	2.242136218761092	1.1465876804817448	-0.05196895064996961	0.02198700268958476	0.042995277126650085	True
1999	qkv_head_3_19_6_5	19		cal-zh-2	2.2837304242794914	1.147988168585906	-0.06484083413222103	0.02027127884038257	0.04032631824408083	True
2000	qkv_head_3_19_6_5	19		cal-en-1	2.0219735536673853	1.1521147997247472	-0.002369002535772461	0.02102774583370064	0.03690391441819873	True
2001	qkv_head_3_19_6_5	19		cal-en-2	1.9944124213890448	1.1610606816417484	-0.00786335310144497	0.022838542356895572	0.039230914700000924	True
2002	qkv_head_3_19_6_6	3		cal-zh-1	4.046578026261882	1.0256226455318571	0.024338265712548456	0.010561068410279402	0.04166852940412936	True
2003	qkv_head_3_19_6_6	3		cal-zh-2	3.7265400050912554	1.0352443482601652	0.009797765500444026	0.010071504051652823	0.036254110271646565	True
2004	qkv_head_3_19_6_6	3		cal-en-1	3.3182864506327068	1.0476344171201806	0.0033865866927014683	0.011032274592116392	0.034943723402397285	True
2005	qkv_head_3_19_6_6	3		cal-en-2	4.125499587326056	1.0340446224149324	-0.012815424044528987	0.01095366100030517	0.04370152211703617	True
2006	qkv_head_3_19_6_6	19		cal-zh-1	2.067297266951907	1.1300552959985275	0.019925509487540394	0.02198700268958476	0.0402225189595519	True
2007	qkv_head_3_19_6_6	19		cal-zh-2	2.168525992923863	1.1220265353448384	0.008478790361342926	0.02027127884038257	0.0391780351804844	True
2008	qkv_head_3_19_6_6	19		cal-en-1	2.1235657630394478	1.129324702138833	0.006998026106159487	0.02102774583370064	0.039540267773982125	True
2009	qkv_head_3_19_6_6	19		cal-en-2	2.1763053264699033	1.1424181109557157	-0.028158490884260482	0.022838542356895572	0.04350739970197044	True
2010	qkv_head_3_19_6_7	3		cal-zh-1	4.137539146744003	1.021826225704015	0.03413997828316153	0.010561068410279402	0.04276346885583834	True
2011	qkv_head_3_19_6_7	3		cal-zh-2	3.921267495897699	1.0249081791658923	0.034201043696448816	0.010071504051652823	0.03853326793107368	True
2012	qkv_head_3_19_6_7	3		cal-en-1	3.964517186171528	1.0320587978544624	0.005038337462768733	0.011032274592116392	0.04237902173203184	True
2013	qkv_head_3_19_6_7	3		cal-en-2	4.064293136055395	1.0331452556917304	-0.00545088791548366	0.01095366100030517	0.04309063897158475	True
2014	qkv_head_3_19_6_7	19		cal-zh-1	2.331833735566186	1.0899639834178658	0.0325903693944555	0.02198700268958476	0.047038283278670975	True
2015	qkv_head_3_19_6_7	19		cal-zh-2	2.264007195164754	1.1000565948569674	0.02671780161881393	0.02027127884038257	0.041719963649492486	True
2016	qkv_head_3_19_6_7	19		cal-en-1	2.1747492903364027	1.093183512832504	0.05732177459035468	0.02102774583370064	0.04183202069223066	True
2017	qkv_head_3_19_6_7	19		cal-en-2	2.185208632652808	1.1095437304389755	0.026316648021300442	0.022838542356895572	0.044979732250616224	True
2018	qkv_head_3_19_7_0	3		cal-zh-1	2.288906622050916	1.1056254785932131	0.011299949243533934	0.013207376044485524	0.027342396745961815	True
2019	qkv_head_3_19_7_0	3		cal-zh-2	1.982852227739747	1.1467167344110523	0.016851525322916037	0.013705252876455444	0.023698521511307184	True
2020	qkv_head_3_19_7_0	3		cal-en-1	1.6924661995780141	1.2350507076676276	0.004907236958235303	0.015679658311865633	0.02148680337496448	True
2021	qkv_head_3_19_7_0	3		cal-en-2	2.167208117781555	1.1308960719257317	-0.006350936693851414	0.013715317639641058	0.026283536095379322	True
2022	qkv_head_3_19_7_0	19		cal-zh-1	1.1987203371101276	1.8276195422974133	-0.005135477412529245	0.025372071570647473	0.016641329052608407	True
2023	qkv_head_3_19_7_0	19		cal-zh-2	1.2028363462463065	1.78023815418736	0.00717937766469801	0.027276309002678894	0.01842952066985896	True
2024	qkv_head_3_19_7_0	19		cal-en-1	1.1708087690190885	1.974739023770263	-0.016251812829351092	0.027265347939980034	0.016165431519926735	True
2025	qkv_head_3_19_7_0	19		cal-en-2	1.3233276103568643	1.524491000666153	0.0013288998375388485	0.028747232581835536	0.02495390696322267	True
2026	qkv_head_3_19_7_1	3		cal-zh-1	2.7983295300461517	1.0632905973858473	0.018149746115258356	0.013207376044485524	0.034758692017565575	True
2027	qkv_head_3_19_7_1	3		cal-zh-2	2.615706993069417	1.0867768413264904	-0.010180187547837363	0.013705252876455444	0.032986464587313996	True
2028	qkv_head_3_19_7_1	3		cal-en-1	2.2954604647117605	1.1143657897356767	-0.006318493476897465	0.015679658311865633	0.032298223874598554	True
2029	qkv_head_3_19_7_1	3		cal-en-2	2.8444013371572954	1.0679037050447644	0.0007155731709302168	0.013715317639641058	0.03653125993424357	True
2030	qkv_head_3_19_7_1	19		cal-zh-1	1.4612562086795564	1.3791562850941532	-0.005978036513900288	0.025372071570647473	0.026882447994020932	True
2031	qkv_head_3_19_7_1	19		cal-zh-2	1.7474426806632928	1.2188190662013192	0.0006943558123595885	0.027276309002678894	0.039106531760119856	True
2032	qkv_head_3_19_7_1	19		cal-en-1	1.4683297416779555	1.3629351887116945	0.0021561478855007497	0.027265347939980034	0.029373752786669795	True
2033	qkv_head_3_19_7_1	19		cal-en-2	1.3366482667766524	1.5255495796295067	-0.010811833697086904	0.028747232581835536	0.02518760394170055	True
2034	qkv_head_3_19_7_2	3		cal-zh-1	2.761536312223669	1.056702142546345	0.03894116335235908	0.013207376044485524	0.0345155432808637	True
2035	qkv_head_3_19_7_2	3		cal-zh-2	1.9319707705487288	1.1495223315138416	0.02741449295431428	0.013705252876455444	0.023034043997580207	True
2036	qkv_head_3_19_7_2	3		cal-en-1	1.7467273331445565	1.1876239912518225	0.03811660441775169	0.015679658311865633	0.02306124493058981	True
2037	qkv_head_3_19_7_2	3		cal-en-2	2.6535768782316507	1.0564332313249452	0.053308143731744306	0.013715317639641058	0.03445049690505209	True
2038	qkv_head_3_19_7_2	19		cal-zh-1	1.4193896957083452	1.3898418245468804	0.013857704517692486	0.025372071570647473	0.025911478781330148	True
2039	qkv_head_3_19_7_2	19		cal-zh-2	1.1817923000553627	1.7537762628674327	0.04262677117770861	0.027276309002678894	0.018380298921706475	True
2040	qkv_head_3_19_7_2	19		cal-en-1	1.2105612014035785	1.6224955221528492	0.061132146058742384	0.027265347939980034	0.020342966688199834	True
2041	qkv_head_3_19_7_2	19		cal-en-2	1.2370010602371395	1.564996368361544	0.05983464971624475	0.028747232581835536	0.022722325688106056	True
2042	qkv_head_3_19_7_3	3		cal-zh-1	2.4820839514313753	1.097549388605694	-0.01027145854365815	0.013207376044485524	0.029868192229765732	True
2043	qkv_head_3_19_7_3	3		cal-zh-2	2.1663159731166126	1.1347055026587292	-0.012595922174474226	0.013705252876455444	0.02616529853102976	True
2044	qkv_head_3_19_7_3	3		cal-en-1	2.0377007191795604	1.153455064106437	-0.008866495601641074	0.015679658311865633	0.027699779569072224	True
2045	qkv_head_3_19_7_3	3		cal-en-2	2.8231079682894316	1.0746002870531421	-0.012972217910993808	0.013715317639641058	0.03603183712361735	True
2046	qkv_head_3_19_7_3	19		cal-zh-1	1.3391399710371887	1.5029261171280734	0.0003501764860000922	0.025372071570647473	0.02260706950332075	True
2047	qkv_head_3_19_7_3	19		cal-zh-2	1.2723679544335946	1.6189428884650503	-0.0007900553312994868	0.027276309002678894	0.02143713761462093	True
2048	qkv_head_3_19_7_3	19		cal-en-1	1.2243296203620755	1.699871609213449	0.013727613609589748	0.027265347939980034	0.019637820239754338	True
2049	qkv_head_3_19_7_3	19		cal-en-2	1.460484545412546	1.3788849677670958	-0.005266910071501061	0.028747232581835536	0.030448434706732093	True
2050	qkv_head_3_19_7_4	3		cal-zh-1	6.711084756882094	1.0105063104001912	0.0051441645848546375	0.013207376044485524	0.08771426673768525	True
2051	qkv_head_3_19_7_4	3		cal-zh-2	5.981701055482946	1.0172547869711306	-0.017307062031551277	0.013705252876455444	0.08059015956155022	True
2052	qkv_head_3_19_7_4	3		cal-en-1	5.54312376371748	1.018025389048426	-0.007204616071061836	0.015679658311865633	0.08537536247176866	True
2053	qkv_head_3_19_7_4	3		cal-en-2	6.7741742031122385	1.0107193912233012	0.002370973255210351	0.013715317639641058	0.09192457545461283	True
2054	qkv_head_3_19_7_4	19		cal-zh-1	3.0667037267563204	1.0534163971590151	0.012091611008262393	0.025372071570647473	0.0738631244501953	True
2055	qkv_head_3_19_7_4	19		cal-zh-2	2.705651590992496	1.06598360832069	0.023988773732667574	0.027276309002678894	0.06923201095536834	True
2056	qkv_head_3_19_7_4	19		cal-en-1	2.5462269164498825	1.0756917839361149	0.025284782711211404	0.027265347939980034	0.064538712527037	True
2057	qkv_head_3_19_7_4	19		cal-en-2	2.8471990684388007	1.0563313000077088	0.029393653365555557	0.028747232581835536	0.07748430234586287	True
2058	qkv_head_3_19_7_5	3		cal-zh-1	3.865054782047995	1.0381392268213379	-0.010404292388501485	0.013207376044485524	0.0491718553929858	True
2059	qkv_head_3_19_7_5	3		cal-zh-2	3.1322217852690732	1.0589044723161203	-0.010336076871917847	0.013705252876455444	0.040539909646769234	True
2060	qkv_head_3_19_7_5	3		cal-en-1	2.8944143010656167	1.073813501465173	-0.020806309237863564	0.015679658311865633	0.042263789002245256	True
2061	qkv_head_3_19_7_5	3		cal-en-2	3.670111468319037	1.0473388056054493	-0.02712739739724581	0.013715317639641058	0.04806156736624133	True
2062	qkv_head_3_19_7_5	19		cal-zh-1	1.941333065470565	1.1456058611854634	0.03035058807465127	0.025372071570647473	0.042995277126650085	True
2063	qkv_head_3_19_7_5	19		cal-zh-2	1.7594964723464717	1.1901054090374406	0.030420501862287105	0.027276309002678894	0.04032631824408083	True
2064	qkv_head_3_19_7_5	19		cal-en-1	1.660689546289358	1.2269505556174274	0.02737286828803379	0.027265347939980034	0.03690391441819873	True
2065	qkv_head_3_19_7_5	19		cal-en-2	1.6574238681130264	1.2145102857703585	0.04224822951706054	0.028747232581835536	0.039230914700000924	True
2066	qkv_head_3_19_7_6	3		cal-zh-1	3.3427245226414533	1.0595195082472457	-0.034887584684827465	0.013207376044485524	0.04166852940412936	True
2067	qkv_head_3_19_7_6	3		cal-zh-2	2.8664969478049405	1.0836306626997563	-0.04145987131917206	0.013705252876455444	0.036254110271646565	True
2068	qkv_head_3_19_7_6	3		cal-en-1	2.468182765509371	1.10750253969122	-0.028102303136691424	0.015679658311865633	0.034943723402397285	True
2069	qkv_head_3_19_7_6	3		cal-en-2	3.382585824348232	1.0615932072122862	-0.04537991801646666	0.013715317639641058	0.04370152211703617	True
2070	qkv_head_3_19_7_6	19		cal-zh-1	1.8717363871593864	1.1806776602964435	0.003091110753055456	0.025372071570647473	0.0402225189595519	True
2071	qkv_head_3_19_7_6	19		cal-zh-2	1.749582879635765	1.218084649495479	0.0007067951402461342	0.027276309002678894	0.0391780351804844	True
2072	qkv_head_3_19_7_6	19		cal-en-1	1.7696728832170712	1.2202938831034056	-0.009879887945455343	0.027265347939980034	0.039540267773982125	True
2073	qkv_head_3_19_7_6	19		cal-en-2	1.8066941181873648	1.1937614377219192	0.008714148060926696	0.028747232581835536	0.04350739970197044	True
2074	qkv_head_3_19_7_7	3		cal-zh-1	3.402299207774395	1.0507904586602954	-0.014204465580027636	0.013207376044485524	0.04276346885583834	True
2075	qkv_head_3_19_7_7	3		cal-zh-2	3.0025425474876393	1.0679240846959281	-0.019622483932115232	0.013705252876455444	0.03853326793107368	True
2076	qkv_head_3_19_7_7	3		cal-en-1	2.921114293285262	1.0807723287770146	-0.04213527320571465	0.015679658311865633	0.04237902173203184	True
2077	qkv_head_3_19_7_7	3		cal-en-2	3.318719368825794	1.0563150462978819	-0.02276694530185769	0.013715317639641058	0.04309063897158475	True
2078	qkv_head_3_19_7_7	19		cal-zh-1	2.107526455213382	1.1367828145835706	-0.0012342477113327138	0.025372071570647473	0.047038283278670975	True
2079	qkv_head_3_19_7_7	19		cal-zh-2	1.8228647808062701	1.191780113930593	0.0054361297686488326	0.027276309002678894	0.041719963649492486	True
2080	qkv_head_3_19_7_7	19		cal-en-1	1.8372144091242055	1.1974628353160044	-0.006979163873236802	0.027265347939980034	0.04183202069223066	True
2081	qkv_head_3_19_7_7	19		cal-en-2	1.8603557389813417	1.1889817132630103	-0.0040753358396193	0.028747232581835536	0.044979732250616224	True
2082	full_attention_3_23	3		cal-zh-1	7.376947167732955	1.0225137572386291	-0.09494971958659727	0.029520958454847816	0.21297958029471153	True
2083	full_attention_3_23	3		cal-zh-2	8.488570630913165	1.0147784234984099	-0.06476101021526415	0.02722234371521061	0.2277135402316942	True
2084	full_attention_3_23	3		cal-en-1	6.950223685909942	1.0250968675652965	-0.0985480193926788	0.03214367677215693	0.21793622702670865	True
2085	full_attention_3_23	3		cal-en-2	8.08330933778025	1.020710252910342	-0.10257212532792899	0.02765954667582663	0.21904421091684395	True
2086	full_attention_3_23	23		cal-zh-1	3.0512299309489825	1.0515881220356178	0.018775773741550972	0.08119890778945765	0.23560225968315765	True
2087	full_attention_3_23	23		cal-zh-2	3.5005898160689375	1.0527845033544163	-0.02977227784601135	0.07266970667596288	0.24163238945487606	True
2088	full_attention_3_23	23		cal-en-1	3.3149337499367966	1.0393839285196713	0.02869131415569986	0.07610997187511936	0.2427394801408059	True
2089	full_attention_3_23	23		cal-en-2	3.6679156778746025	1.0274017877815391	0.04088540421163174	0.06772166628896913	0.24177236643656652	True
2090	qkv_head_3_23_0_0	3		cal-zh-1	4.797505527264606	1.0230106243478325	-0.0025330387316976352	0.014857293594532826	0.06967469002133174	True
2091	qkv_head_3_23_0_0	3		cal-zh-2	5.362521649865225	1.0177636774991408	0.0004691920765724077	0.013816240818171524	0.07279675247327637	True
2092	qkv_head_3_23_0_0	3		cal-en-1	3.8253208637837024	1.0332018156125211	0.010080821192192528	0.01830340678414811	0.06776643516466678	True
2093	qkv_head_3_23_0_0	3		cal-en-2	4.810838915550569	1.0202391856498165	0.00963378635364699	0.013985067666189349	0.06594523001217542	True
2094	qkv_head_3_23_0_0	23		cal-zh-1	1.9982949510633468	1.146978059276526	0.012101927980556546	0.03714327786455611	0.06471198295589271	True
2095	qkv_head_3_23_0_0	23		cal-zh-2	2.385314511035283	1.1043461091497446	-0.005650915326748329	0.033999384124977945	0.07343641965833723	True
2096	qkv_head_3_23_0_0	23		cal-en-1	2.1431560430793364	1.140899665957624	-0.017150721345698283	0.03343964041055665	0.06281566167707717	True
2097	qkv_head_3_23_0_0	23		cal-en-2	2.2406202461155393	1.1177327464598188	-0.0004765617425580868	0.02921395401194666	0.05856263676230147	True
2098	qkv_head_3_23_0_1	3		cal-zh-1	5.129665385004846	1.0171953693067803	0.01168737685871922	0.014857293594532826	0.0749245886939777	True
2099	qkv_head_3_23_0_1	3		cal-zh-2	5.240839992196576	1.0159196573592815	0.014144685199131998	0.013816240818171524	0.07127404898326976	True
2100	qkv_head_3_23_0_1	3		cal-en-1	3.9496791374519895	1.03100522901671	0.00989825594487752	0.01830340678414811	0.07011854245258664	True
2101	qkv_head_3_23_0_1	3		cal-en-2	5.1321959722151655	1.0143326750313926	0.025782128720998273	0.013985067666189349	0.07075992888166813	True
2102	qkv_head_3_23_0_1	23		cal-zh-1	2.0990090378641435	1.1367640563932295	0.0009855301893071258	0.03714327786455611	0.0685842198256778	True
2103	qkv_head_3_23_0_1	23		cal-zh-2	2.37485481467487	1.1096816593377814	-0.013973634696955322	0.033999384124977945	0.07276285086424616	True
2104	qkv_head_3_23_0_1	23		cal-en-1	2.0941037711285584	1.137776540713463	0.0006123037332985151	0.03343964041055665	0.061546423733625684	True
2105	qkv_head_3_23_0_1	23		cal-en-2	2.521462324107867	1.094129284868643	-0.010170728679200196	0.02921395401194666	0.06732466208340902	True
2106	qkv_head_3_23_0_2	3		cal-zh-1	7.2082976601546065	1.007935461859673	0.012938945367961885	0.014857293594532826	0.1062526309532813	True
2107	qkv_head_3_23_0_2	3		cal-zh-2	8.066125860335935	1.0077064058341738	0.0005421758935952206	0.013816240818171524	0.11059127610073084	True
2108	qkv_head_3_23_0_2	3		cal-en-1	5.984714660372922	1.0127227912659293	0.00894512303722692	0.01830340678414811	0.10816451240218634	True
2109	qkv_head_3_23_0_2	3		cal-en-2	7.582077315696223	1.0065283231355493	0.017037770100072895	0.013985067666189349	0.10534811775585882	True
2110	qkv_head_3_23_0_2	23		cal-zh-1	3.886146964582982	1.0310611311600204	0.013768605394122948	0.03714327786455611	0.1399958083626031	True
2111	qkv_head_3_23_0_2	23		cal-zh-2	4.325317092512052	1.0299544776098626	-0.008617406962042592	0.033999384124977945	0.14278118158378872	True
2112	qkv_head_3_23_0_2	23		cal-en-1	4.585962183617297	1.0209452160447323	0.016243326394140084	0.03343964041055665	0.15020681222316876	True
2113	qkv_head_3_23_0_2	23		cal-en-2	4.926975790098956	1.0145356963218601	0.031853264240703366	0.02921395401194666	0.14187420380747431	True
2114	qkv_head_3_23_0_3	3		cal-zh-1	4.833855880951952	1.0249230651312626	-0.012994652702840719	0.014857293594532826	0.07007161655374054	True
2115	qkv_head_3_23_0_3	3		cal-zh-2	5.447111642338997	1.0204040819110423	-0.016367403607012415	0.013816240818171524	0.07375372908453569	True
2116	qkv_head_3_23_0_3	3		cal-en-1	4.18588241378147	1.0302388595015606	-0.0016575876234704483	0.01830340678414811	0.07436713133410783	True
2117	qkv_head_3_23_0_3	3		cal-en-2	5.383154138613209	1.0198411584304632	-0.011043789243928799	0.013985067666189349	0.07381911806922442	True
2118	qkv_head_3_23_0_3	23		cal-zh-1	1.8097355981398666	1.203629421916654	-0.004799894471417706	0.03714327786455611	0.055847348826059504	True
2119	qkv_head_3_23_0_3	23		cal-zh-2	1.9592890604082653	1.1783801160061564	-0.022328895511874065	0.033999384124977945	0.05653067331317707	True
2120	qkv_head_3_23_0_3	23		cal-en-1	2.0361339342481672	1.155082250748195	-0.010924646964707147	0.03343964041055665	0.058946093704485156	True
2121	qkv_head_3_23_0_3	23		cal-en-2	2.2848108382189536	1.1313614055622436	-0.0351285313462758	0.02921395401194666	0.05899826388416919	True
2122	qkv_head_3_23_0_4	3		cal-zh-1	3.9198575264915907	1.0360154885602202	-0.006572071901545037	0.014857293594532826	0.056213902941509526	True
2123	qkv_head_3_23_0_4	3		cal-zh-2	4.376003963876416	1.0269656207393745	0.000888127665612959	0.013816240818171524	0.05887239393920604	True
2124	qkv_head_3_23_0_4	3		cal-en-1	3.2753541270665543	1.0476203410932836	0.007496207095680604	0.01830340678414811	0.057225061979298955	True
2125	qkv_head_3_23_0_4	3		cal-en-2	4.3950028968083545	1.028420817827794	-0.0061847355290132345	0.013985067666189349	0.059765819438376125	True
2126	qkv_head_3_23_0_4	23		cal-zh-1	1.9452247480522908	1.180280694203906	-0.020524851661279972	0.03714327786455611	0.06121596640589894	True
2127	qkv_head_3_23_0_4	23		cal-zh-2	2.195787619918369	1.1454805517671132	-0.03832312864811021	0.033999384124977945	0.06517389285335841	True
2128	qkv_head_3_23_0_4	23		cal-en-1	1.8396350418421457	1.1978817213208628	-0.008386611232536523	0.03343964041055665	0.05135459802995266	True
2129	qkv_head_3_23_0_4	23		cal-en-2	2.097369679424926	1.1495142710676665	-0.01915588910614177	0.02921395401194666	0.05330291489453313	True
2130	qkv_head_3_23_0_5	3		cal-zh-1	3.8419713689618944	1.0331247735427362	0.009228219386688689	0.014857293594532826	0.05525111590801944	True
2131	qkv_head_3_23_0_5	3		cal-zh-2	4.130145389884972	1.0348957560832397	-0.016409038307788826	0.013816240818171524	0.055138967364865635	True
2132	qkv_head_3_23_0_5	3		cal-en-1	3.20836518378069	1.051324036279117	0.0031942069843116207	0.01830340678414811	0.05585719630141262	True
2133	qkv_head_3_23_0_5	3		cal-en-2	4.3854496804287875	1.0215580243765194	0.022927225854738015	0.013985067666189349	0.06003654130649766	True
2134	qkv_head_3_23_0_5	23		cal-zh-1	1.7371536679733937	1.188120392040794	0.04105066138906333	0.03714327786455611	0.054307275437078105	True
2135	qkv_head_3_23_0_5	23		cal-zh-2	1.995449501954953	1.1556181306630886	-5.6553087095053966e-05	0.033999384124977945	0.05870802155036609	True
2136	qkv_head_3_23_0_5	23		cal-en-1	1.6776105952033387	1.230673701303061	0.016080199407523192	0.03343964041055665	0.045583727833902014	True
2137	qkv_head_3_23_0_5	23		cal-en-2	1.9475446923336908	1.1450230130713184	0.02941314505292525	0.02921395401194666	0.04968937779288413	True
2138	qkv_head_3_23_0_6	3		cal-zh-1	5.803250549746766	1.0147065985415324	0.002698113377944335	0.014857293594532826	0.08497096337419027	True
2139	qkv_head_3_23_0_6	3		cal-zh-2	6.528059761671568	1.0115343122502498	0.0026084935433617405	0.013816240818171524	0.08916479119924932	True
2140	qkv_head_3_23_0_6	3		cal-en-1	5.016806968498429	1.0172656602516887	0.01550235504987658	0.01830340678414811	0.09026615395555244	True
2141	qkv_head_3_23_0_6	3		cal-en-2	6.493995256850597	1.0110791128177723	0.0062937171605444145	0.013985067666189349	0.08982379513099156	True
2142	qkv_head_3_23_0_6	23		cal-zh-1	3.360087244844152	1.0435192503574724	0.01210227159430272	0.03714327786455611	0.11959976219091648	True
2143	qkv_head_3_23_0_6	23		cal-zh-2	3.826678735883204	1.0353970050720644	0.0021490297452328258	0.033999384124977945	0.12565684430883853	True
2144	qkv_head_3_23_0_6	23		cal-en-1	4.0646759470072675	1.029196990441949	0.009609630266406224	0.03343964041055665	0.132065390120307	True
2145	qkv_head_3_23_0_6	23		cal-en-2	4.1798787682376695	1.0209420433759149	0.03548837513543662	0.02921395401194666	0.11960599223343558	True
2146	qkv_head_3_23_0_7	3		cal-zh-1	4.2662274349915865	1.0286114001499411	0.0001876901027580494	0.014857293594532826	0.061621515699204876	True
2147	qkv_head_3_23_0_7	3		cal-zh-2	4.79510901272525	1.0228989699657558	-0.0019133541428976108	0.013816240818171524	0.06476727693978876	True
2148	qkv_head_3_23_0_7	3		cal-en-1	3.5293711063197635	1.0347779275389748	0.025913675538082027	0.01830340678414811	0.062428385194519286	True
2149	qkv_head_3_23_0_7	3		cal-en-2	4.798389276844411	1.0232750679074039	-0.0037857528707470047	0.013985067666189349	0.06557943296968795	True
2150	qkv_head_3_23_0_7	23		cal-zh-1	1.8999637522648922	1.1719346894683662	0.005702946949369731	0.03714327786455611	0.060217418442467266	True
2151	qkv_head_3_23_0_7	23		cal-zh-2	2.1307498469356903	1.1417692754083537	-0.015394466163751086	0.033999384124977945	0.0634490558473776	True
2152	qkv_head_3_23_0_7	23		cal-en-1	1.9436235690022015	1.1581076469163167	0.011599921207769976	0.03343964041055665	0.056120925730846795	True
2153	qkv_head_3_23_0_7	23		cal-en-2	2.183641074687408	1.1247807305282516	0.00018470952048494109	0.02921395401194666	0.056715756416413306	True
2154	qkv_head_3_23_1_0	3		cal-zh-1	6.747410668381162	1.0142311262122043	-0.020192518256704976	0.010473090019549047	0.06967469002133174	True
2155	qkv_head_3_23_1_0	3		cal-zh-2	6.138560055903849	1.013025259237858	0.0030709590576942563	0.012013395384963238	0.07279675247327637	True
2156	qkv_head_3_23_1_0	3		cal-en-1	5.669879236901707	1.020761210640643	-0.026500338777417025	0.012200144925359209	0.06776643516466678	True
2157	qkv_head_3_23_1_0	3		cal-en-2	7.003978499932052	1.0127042383941793	-0.016127162484076984	0.009535011270502469	0.06594523001217542	True
2158	qkv_head_3_23_1_0	23		cal-zh-1	2.6272889664325985	1.0913348453281175	-0.0222294659310871	0.026880348074516502	0.06471198295589271	True
2159	qkv_head_3_23_1_0	23		cal-zh-2	2.716645866970367	1.074952078500293	0.0013259416654432855	0.029058123809631787	0.07343641965833723	True
2160	qkv_head_3_23_1_0	23		cal-en-1	2.6291350730980154	1.093891169391779	-0.028226091418089606	0.026135400311361114	0.06281566167707717	True
2161	qkv_head_3_23_1_0	23		cal-en-2	2.570331014837886	1.0922065426726804	-0.014533062426792694	0.024884925193957363	0.05856263676230147	True
2162	qkv_head_3_23_1_1	3		cal-zh-1	7.243845317546725	1.0125573649555937	-0.020508686387288755	0.010473090019549047	0.0749245886939777	True
2163	qkv_head_3_23_1_1	3		cal-zh-2	6.021869012066454	1.0149990695125717	-0.0053789822189463975	0.012013395384963238	0.07127404898326976	True
2164	qkv_head_3_23_1_1	3		cal-en-1	5.844977850276503	1.016986012039634	-0.011457170920567663	0.012200144925359209	0.07011854245258664	True
2165	qkv_head_3_23_1_1	3		cal-en-2	7.489221069058868	1.0091842717956871	-0.0010942720055028428	0.009535011270502469	0.07075992888166813	True
2166	qkv_head_3_23_1_1	23		cal-zh-1	2.750014761068137	1.077818690297237	-0.01031105438223206	0.026880348074516502	0.0685842198256778	True
2167	qkv_head_3_23_1_1	23		cal-zh-2	2.715561252577426	1.0844698105253539	-0.020772658007519446	0.029058123809631787	0.07276285086424616	True
2168	qkv_head_3_23_1_1	23		cal-en-1	2.577009400166742	1.0943149608658949	-0.020254070925712978	0.026135400311361114	0.061546423733625684	True
2169	qkv_head_3_23_1_1	23		cal-en-2	2.88819147129407	1.067549787623669	-0.0041114466412668586	0.024884925193957363	0.06732466208340902	True
2170	qkv_head_3_23_1_2	3		cal-zh-1	10.198309193785828	1.0052250873738502	-0.0038646563281494557	0.010473090019549047	0.1062526309532813	True
2171	qkv_head_3_23_1_2	3		cal-zh-2	9.241789745066635	1.0039243436440497	0.018117316866398885	0.012013395384963238	0.11059127610073084	True
2172	qkv_head_3_23_1_2	3		cal-en-1	8.927915358032628	1.0070018237066138	-0.005898117051973577	0.012200144925359209	0.10816451240218634	True
2173	qkv_head_3_23_1_2	3		cal-en-2	11.09475882623708	1.0041816854937968	-0.0010434142198032736	0.009535011270502469	0.10534811775585882	True
2174	qkv_head_3_23_1_2	23		cal-zh-1	5.280286775269945	1.0138585441422228	0.02332716298823533	0.026880348074516502	0.1399958083626031	True
2175	qkv_head_3_23_1_2	23		cal-zh-2	5.003273630220359	1.0182416407241448	0.01130714605362254	0.029058123809631787	0.14278118158378872	True
2176	qkv_head_3_23_1_2	23		cal-en-1	5.822026791472577	1.0130099864747342	0.011739952294288343	0.026135400311361114	0.15020681222316876	True
2177	qkv_head_3_23_1_2	23		cal-en-2	5.764393081374484	1.0110822599803186	0.02416826764627696	0.024884925193957363	0.14187420380747431	True
2178	qkv_head_3_23_1_3	3		cal-zh-1	6.767290428432136	1.0114572109385567	-0.002363813175819229	0.010473090019549047	0.07007161655374054	True
2179	qkv_head_3_23_1_3	3		cal-zh-2	6.217322330239802	1.0127101682319217	0.00291531378922917	0.012013395384963238	0.07375372908453569	True
2180	qkv_head_3_23_1_3	3		cal-en-1	6.1552816365547605	1.0097919157993458	0.02204668737622576	0.012200144925359209	0.07436713133410783	True
2181	qkv_head_3_23_1_3	3		cal-en-2	7.816223365419881	1.0095999495978039	-0.010094990459677707	0.009535011270502469	0.07381911806922442	True
2182	qkv_head_3_23_1_3	23		cal-zh-1	2.304439325157024	1.1091686978687936	0.0014668623351796084	0.026880348074516502	0.055847348826059504	True
2183	qkv_head_3_23_1_3	23		cal-zh-2	2.1949536361535853	1.1282588863289766	-0.008508769720130725	0.029058123809631787	0.05653067331317707	True
2184	qkv_head_3_23_1_3	23		cal-en-1	2.460533439429447	1.0909463609475065	0.007239958047751175	0.026135400311361114	0.058946093704485156	True
2185	qkv_head_3_23_1_3	23		cal-en-2	2.5601717930290953	1.0798569205068378	0.014007552977919316	0.024884925193957363	0.05899826388416919	True
2186	qkv_head_3_23_1_4	3		cal-zh-1	5.4714750535274215	1.0193786194659633	-0.011867896510535984	0.010473090019549047	0.056213902941509526	True
2187	qkv_head_3_23_1_4	3		cal-zh-2	5.011671386576937	1.0226726973023725	-0.010339432819914752	0.012013395384963238	0.05887239393920604	True
2188	qkv_head_3_23_1_4	3		cal-en-1	4.802959585062908	1.0239709837205222	-0.0071861418544682506	0.012200144925359209	0.057225061979298955	True
2189	qkv_head_3_23_1_4	3		cal-en-2	6.372162402432165	1.016611850981318	-0.025218798949881546	0.009535011270502469	0.059765819438376125	True
2190	qkv_head_3_23_1_4	23		cal-zh-1	2.4712090821290227	1.0851247508220907	0.017443444447901316	0.026880348074516502	0.06121596640589894	True
2191	qkv_head_3_23_1_4	23		cal-zh-2	2.436604834245884	1.086373114277088	0.02083678540002356	0.029058123809631787	0.06517389285335841	True
2192	qkv_head_3_23_1_4	23		cal-en-1	2.1975186206767363	1.1183619587394824	0.008121563514456817	0.026135400311361114	0.05135459802995266	True
2193	qkv_head_3_23_1_4	23		cal-en-2	2.37742465031893	1.1099211871342631	-0.014959638435090902	0.024884925193957363	0.05330291489453313	True
2194	qkv_head_3_23_1_5	3		cal-zh-1	5.394332545734002	1.0225192635187186	-0.025361558711430615	0.010473090019549047	0.05525111590801944	True
2195	qkv_head_3_23_1_5	3		cal-zh-2	4.704394986561312	1.0249694494027015	-0.007097911103597211	0.012013395384963238	0.055138967364865635	True
2196	qkv_head_3_23_1_5	3		cal-en-1	4.687926173365052	1.023921401386053	-0.0016234517026545955	0.012200144925359209	0.05585719630141262	True
2197	qkv_head_3_23_1_5	3		cal-en-2	6.396577721570188	1.015905302679649	-0.02153300865226205	0.009535011270502469	0.06003654130649766	True
2198	qkv_head_3_23_1_5	23		cal-zh-1	2.254237215184321	1.1157746452754742	4.038712555143341e-05	0.026880348074516502	0.054307275437078105	True
2199	qkv_head_3_23_1_5	23		cal-zh-2	2.2527801646581316	1.1150361264407225	0.0016969683583374859	0.029058123809631787	0.05870802155036609	True
2200	qkv_head_3_23_1_5	23		cal-en-1	2.028843252391216	1.1632359416381968	-0.021268350214928143	0.026135400311361114	0.045583727833902014	True
2201	qkv_head_3_23_1_5	23		cal-en-2	2.241615513116411	1.1226229193295447	-0.009456491869086205	0.024884925193957363	0.04968937779288413	True
2202	qkv_head_3_23_1_6	3		cal-zh-1	8.18052702694241	1.008290274210843	-0.005912541077832234	0.010473090019549047	0.08497096337419027	True
2203	qkv_head_3_23_1_6	3		cal-zh-2	7.46684034427503	1.0060260796407963	0.02250523826201063	0.012013395384963238	0.08916479119924932	True
2204	qkv_head_3_23_1_6	3		cal-en-1	7.472128630534352	1.0099139954310354	-0.006136311553913896	0.012200144925359209	0.09026615395555244	True
2205	qkv_head_3_23_1_6	3		cal-en-2	9.474798574801977	1.005772591379933	-0.001460984057580407	0.009535011270502469	0.08982379513099156	True
2206	qkv_head_3_23_1_6	23		cal-zh-1	4.508321701878512	1.0132566683949056	0.05300189643037071	0.026880348074516502	0.11959976219091648	True
2207	qkv_head_3_23_1_6	23		cal-zh-2	4.425040284948344	1.0232898109919586	0.013739353527297328	0.029058123809631787	0.12565684430883853	True
2208	qkv_head_3_23_1_6	23		cal-en-1	5.119507180897624	1.0131372757674038	0.03212838786603876	0.026135400311361114	0.132065390120307	True
2209	qkv_head_3_23_1_6	23		cal-en-2	4.87141871057656	1.0135352580374628	0.038533117464192544	0.024884925193957363	0.11960599223343558	True
2210	qkv_head_3_23_1_7	3		cal-zh-1	5.9768768867841535	1.0158200258592502	-0.008838902771992275	0.010473090019549047	0.061621515699204876	True
2211	qkv_head_3_23_1_7	3		cal-zh-2	5.490307532484668	1.0183728309914544	-0.0072197680979741415	0.012013395384963238	0.06476727693978876	True
2212	qkv_head_3_23_1_7	3		cal-en-1	5.2335131938294	1.0227658337557592	-0.020106135918594056	0.012200144925359209	0.062428385194519286	True
2213	qkv_head_3_23_1_7	3		cal-en-2	6.943501032994925	1.0095598209419405	0.006633836098304087	0.009535011270502469	0.06557943296968795	True
2214	qkv_head_3_23_1_7	23		cal-zh-1	2.419680134025246	1.0801167820525788	0.03652673134075948	0.026880348074516502	0.060217418442467266	True
2215	qkv_head_3_23_1_7	23		cal-zh-2	2.4063863376459693	1.1020663932545032	-0.005249865786560223	0.029058123809631787	0.0634490558473776	True
2216	qkv_head_3_23_1_7	23		cal-en-1	2.3704125452705207	1.1038962733942534	-0.0018385282499137508	0.026135400311361114	0.056120925730846795	True
2217	qkv_head_3_23_1_7	23		cal-en-2	2.4605789349815397	1.0796174925584312	0.030701306812015116	0.024884925193957363	0.056715756416413306	True
2218	qkv_head_3_23_2_0	3		cal-zh-1	7.38123063504395	1.0120493495332308	-0.019853981439166123	0.009553179977907358	0.06967469002133174	True
2219	qkv_head_3_23_2_0	3		cal-zh-2	11.556300596860625	1.0042983747926448	-0.0061145942888150675	0.006326389624976942	0.07279675247327637	True
2220	qkv_head_3_23_2_0	3		cal-en-1	6.67879481881875	1.0181913518133945	-0.04418527925457289	0.010331085188224187	0.06776643516466678	True
2221	qkv_head_3_23_2_0	3		cal-en-2	7.922782984837878	1.0111756660744418	-0.02423866111340888	0.00841651374392129	0.06594523001217542	True
2222	qkv_head_3_23_2_0	23		cal-zh-1	2.0527382937189556	1.1428399502902309	0.0034804673149320758	0.036027699980453576	0.06471198295589271	True
2223	qkv_head_3_23_2_0	23		cal-zh-2	3.009449853777369	1.0601881227901488	0.00015161100107914888	0.025870648684934605	0.07343641965833723	True
2224	qkv_head_3_23_2_0	23		cal-en-1	2.279683244041421	1.1401766972343068	-0.04984124442449446	0.03141706368757963	0.06281566167707717	True
2225	qkv_head_3_23_2_0	23		cal-en-2	2.391538389485015	1.1118815108464004	-0.021645490572859805	0.027227124318267067	0.05856263676230147	True
2226	qkv_head_3_23_2_1	3		cal-zh-1	7.957482047532372	1.0146102834349466	-0.05167202633947563	0.009553179977907358	0.0749245886939777	True
2227	qkv_head_3_23_2_1	3		cal-zh-2	11.331457904047571	1.0057969028370584	-0.02111732931491997	0.006326389624976942	0.07127404898326976	True
2228	qkv_head_3_23_2_1	3		cal-en-1	6.893060708761318	1.0156057855590401	-0.03307644478936124	0.010331085188224187	0.07011854245258664	True
2229	qkv_head_3_23_2_1	3		cal-en-2	8.507602228335012	1.0119336213910137	-0.0414555422144857	0.00841651374392129	0.07075992888166813	True
2230	qkv_head_3_23_2_1	23		cal-zh-1	2.1982027340232375	1.1547290149089233	-0.05468502304727074	0.036027699980453576	0.0685842198256778	True
2231	qkv_head_3_23_2_1	23		cal-zh-2	3.0160899930220686	1.0723632139867392	-0.03311631918141294	0.025870648684934605	0.07276285086424616	True
2232	qkv_head_3_23_2_1	23		cal-en-1	2.204301397598063	1.1252104215622063	-0.005414531319474562	0.03141706368757963	0.061546423733625684	True
2233	qkv_head_3_23_2_1	23		cal-en-2	2.6700561594736154	1.0798115986185985	-0.003018360940639575	0.027227124318267067	0.06732466208340902	True
2234	qkv_head_3_23_2_2	3		cal-zh-1	11.208256812574817	1.0077349954394403	-0.04140806516642952	0.009553179977907358	0.1062526309532813	True
2235	qkv_head_3_23_2_2	3		cal-zh-2	17.545919043513948	1.0037167859105518	-0.0364911085734787	0.006326389624976942	0.11059127610073084	True
2236	qkv_head_3_23_2_2	3		cal-en-1	10.560676701477457	1.0086788007011132	-0.043503354378545765	0.010331085188224187	0.10816451240218634	True
2237	qkv_head_3_23_2_2	3		cal-en-2	12.592684510909093	1.0060597618322118	-0.03613265643970491	0.00841651374392129	0.10534811775585882	True
2238	qkv_head_3_23_2_2	23		cal-zh-1	3.9714520491903946	1.0220469068930387	0.04206034964936513	0.036027699980453576	0.1399958083626031	True
2239	qkv_head_3_23_2_2	23		cal-zh-2	5.593977519113463	1.0135777386285327	0.015150609367465036	0.025870648684934605	0.14278118158378872	True
2240	qkv_head_3_23_2_2	23		cal-en-1	4.845047076660772	1.0133838161122635	0.040162345098376295	0.03141706368757963	0.15020681222316876	True
2241	qkv_head_3_23_2_2	23		cal-en-2	5.326618997882883	1.0222331738911927	-0.02118460716914044	0.027227124318267067	0.14187420380747431	True
2242	qkv_head_3_23_2_3	3		cal-zh-1	7.441342474874418	1.0145118299818507	-0.03904789844746013	0.009553179977907358	0.07007161655374054	True
2243	qkv_head_3_23_2_3	3		cal-zh-2	11.701118047197701	1.003689341993466	-0.00020147700351325404	0.006326389624976942	0.07375372908453569	True
2244	qkv_head_3_23_2_3	3		cal-en-1	7.279169916325604	1.0112226081070836	-0.011777941834447072	0.010331085188224187	0.07436713133410783	True
2245	qkv_head_3_23_2_3	3		cal-en-2	8.840916863954545	1.0080003695595592	-0.013442229440452	0.00841651374392129	0.07381911806922442	True
2246	qkv_head_3_23_2_3	23		cal-zh-1	1.8094220828294	1.1672768234929425	0.04156817605002746	0.036027699980453576	0.055847348826059504	True
2247	qkv_head_3_23_2_3	23		cal-zh-2	2.3959765405954014	1.0964926420687091	0.007798139613158064	0.025870648684934605	0.05653067331317707	True
2248	qkv_head_3_23_2_3	23		cal-en-1	2.1296665084952116	1.1350687403669033	-0.00404689349163842	0.03141706368757963	0.058946093704485156	True
2249	qkv_head_3_23_2_3	23		cal-en-2	2.3736447962632536	1.09541396136927	0.014129784693495653	0.027227124318267067	0.05899826388416919	True
2250	qkv_head_3_23_2_4	3		cal-zh-1	5.988905148801569	1.017774709872886	-0.02054982175235426	0.009553179977907358	0.056213902941509526	True
2251	qkv_head_3_23_2_4	3		cal-zh-2	9.344588160990677	1.0041634395302637	0.014904705800480957	0.006326389624976942	0.05887239393920604	True
2252	qkv_head_3_23_2_4	3		cal-en-1	5.634262226437158	1.0171774572332062	-0.00569796047012426	0.010331085188224187	0.057225061979298955	True
2253	qkv_head_3_23_2_4	3		cal-en-2	7.147557365503663	1.0065538357464532	0.023721022144804933	0.00841651374392129	0.059765819438376125	True
2254	qkv_head_3_23_2_4	23		cal-zh-1	1.9887324848080665	1.170437412177203	-0.020008207819551555	0.036027699980453576	0.06121596640589894	True
2255	qkv_head_3_23_2_4	23		cal-zh-2	2.7317705462684763	1.0843709497202743	-0.023041573086045767	0.025870648684934605	0.06517389285335841	True
2256	qkv_head_3_23_2_4	23		cal-en-1	1.951610350535568	1.193931391310942	-0.0418565524382645	0.03141706368757963	0.05135459802995266	True
2257	qkv_head_3_23_2_4	23		cal-en-2	2.1892770224057165	1.1182825137069474	0.010141711960851394	0.027227124318267067	0.05330291489453313	True
2258	qkv_head_3_23_2_5	3		cal-zh-1	5.888691903911746	1.018182758266238	-0.01966423560927286	0.009553179977907358	0.05525111590801944	True
2259	qkv_head_3_23_2_5	3		cal-zh-2	8.790306416817256	1.008559027733189	-0.01754955005839038	0.006326389624976942	0.055138967364865635	True
2260	qkv_head_3_23_2_5	3		cal-en-1	5.519244885456598	1.0208136616567118	-0.02122692277364287	0.010331085188224187	0.05585719630141262	True
2261	qkv_head_3_23_2_5	3		cal-en-2	7.229114466098532	1.0134484754822721	-0.026480584304203806	0.00841651374392129	0.06003654130649766	True
2262	qkv_head_3_23_2_5	23		cal-zh-1	1.7979663699542856	1.1927792810506601	0.013101610405215772	0.036027699980453576	0.054307275437078105	True
2263	qkv_head_3_23_2_5	23		cal-zh-2	2.478237302591686	1.0920757491077415	0.0017670704433648318	0.025870648684934605	0.05870802155036609	True
2264	qkv_head_3_23_2_5	23		cal-en-1	1.7570254342445237	1.2109711643044494	0.006216053209574877	0.03141706368757963	0.045583727833902014	True
2265	qkv_head_3_23_2_5	23		cal-en-2	2.097596750711053	1.1493709528675495	-0.018987379880282044	0.027227124318267067	0.04968937779288413	True
2266	qkv_head_3_23_2_6	3		cal-zh-1	8.954478322139893	1.0067408868010552	-0.003944663599796205	0.009553179977907358	0.08497096337419027	True
2267	qkv_head_3_23_2_6	3		cal-zh-2	14.137115342384309	1.0030517497574247	-0.00760147969648439	0.006326389624976942	0.08916479119924932	True
2268	qkv_head_3_23_2_6	3		cal-en-1	8.807532822326232	1.008034217679614	-0.013253958177189181	0.010331085188224187	0.09026615395555244	True
2269	qkv_head_3_23_2_6	3		cal-en-2	10.73579172633845	1.0059465700022308	-0.016802306852639993	0.00841651374392129	0.08982379513099156	True
2270	qkv_head_3_23_2_6	23		cal-zh-1	3.418563182246242	1.0297927557547133	0.05024263586217722	0.036027699980453576	0.11959976219091648	True
2271	qkv_head_3_23_2_6	23		cal-zh-2	4.945328695097899	1.0181607058980138	0.013931967959220094	0.025870648684934605	0.12565684430883853	True
2272	qkv_head_3_23_2_6	23		cal-en-1	4.28211196098741	1.0186725233093585	0.039720094330693886	0.03141706368757963	0.132065390120307	True
2273	qkv_head_3_23_2_6	23		cal-en-2	4.5060212109769955	1.0257512805259132	-0.0007592203763982737	0.027227124318267067	0.11960599223343558	True
2274	qkv_head_3_23_2_7	3		cal-zh-1	6.554249714038543	1.0161049501605486	-0.02720438024580602	0.009553179977907358	0.061621515699204876	True
2275	qkv_head_3_23_2_7	3		cal-zh-2	10.309355030736496	1.007005385872379	-0.02313040392597029	0.006326389624976942	0.06476727693978876	True
2276	qkv_head_3_23_2_7	3		cal-en-1	6.157642397149641	1.0190096694853936	-0.03321942404430456	0.010331085188224187	0.062428385194519286	True
2277	qkv_head_3_23_2_7	3		cal-en-2	7.905628135588179	1.0146142600571706	-0.050532460970596715	0.00841651374392129	0.06557943296968795	True
2278	qkv_head_3_23_2_7	23		cal-zh-1	1.9313315383973142	1.1555034245555638	0.01902673120408897	0.036027699980453576	0.060217418442467266	True
2279	qkv_head_3_23_2_7	23		cal-zh-2	2.6463223228477473	1.0790085716354085	0.002442149412212817	0.025870648684934605	0.0634490558473776	True
2280	qkv_head_3_23_2_7	23		cal-en-1	2.0644469786017123	1.1556983667272571	-0.01987398245624769	0.03141706368757963	0.056120925730846795	True
2281	qkv_head_3_23_2_7	23		cal-en-2	2.3233148708395452	1.11533702123949	-0.014077728903161587	0.027227124318267067	0.056715756416413306	True
2282	qkv_head_3_23_3_0	3		cal-zh-1	5.266882154397109	1.017631062776226	0.004550294997567544	0.013462068597038523	0.06967469002133174	True
2283	qkv_head_3_23_3_0	3		cal-zh-2	6.115892173759008	1.007353162744564	0.03754835574273896	0.011990407410406662	0.07279675247327637	True
2284	qkv_head_3_23_3_0	3		cal-en-1	5.48851685873634	1.0154236508280257	0.008494320928474292	0.012537383553623561	0.06776643516466678	True
2285	qkv_head_3_23_3_0	3		cal-en-2	5.693691653694357	1.0151291477920685	0.003646279477275534	0.0117573850525916	0.06594523001217542	True
2286	qkv_head_3_23_3_0	23		cal-zh-1	2.139797270318439	1.129408220492425	0.0028621683596932635	0.03415568686274398	0.06471198295589271	True
2287	qkv_head_3_23_3_0	23		cal-zh-2	2.557036090853715	1.0770217490280791	0.020694458487892	0.030931366759229362	0.07343641965833723	True
2288	qkv_head_3_23_3_0	23		cal-en-1	2.358389735722875	1.1068389121747475	-0.0051471702285075405	0.029480631460127294	0.06281566167707717	True
2289	qkv_head_3_23_3_0	23		cal-en-2	2.446845647576401	1.1016680563496672	-0.01216722856845299	0.026367248085525895	0.05856263676230147	True
2290	qkv_head_3_23_3_1	3		cal-zh-1	5.641471106110045	1.0136308032181245	0.013456713180683503	0.013462068597038523	0.0749245886939777	True
2291	qkv_head_3_23_3_1	3		cal-zh-2	6.044595078430827	1.016880037758726	-0.01707130923192227	0.011990407410406662	0.07127404898326976	True
2292	qkv_head_3_23_3_1	3		cal-en-1	5.655874581821627	1.0112855527685338	0.02592782783489027	0.012537383553623561	0.07011854245258664	True
2293	qkv_head_3_23_3_1	3		cal-en-2	6.100785534648722	1.013699219145611	6.812992510950766e-05	0.0117573850525916	0.07075992888166813	True
2294	qkv_head_3_23_3_1	23		cal-zh-1	2.2452434035324185	1.1181556167966062	-0.002266173928699201	0.03415568686274398	0.0685842198256778	True
2295	qkv_head_3_23_3_1	23		cal-zh-2	2.5554443119655157	1.086315122447076	0.0007387105433396235	0.030931366759229362	0.07276285086424616	True
2296	qkv_head_3_23_3_1	23		cal-en-1	2.311401787352511	1.1071574937341153	0.0038013098296009154	0.029480631460127294	0.061546423733625684	True
2297	qkv_head_3_23_3_1	23		cal-en-2	2.7475058129180088	1.0760420497303356	-0.00572213843019892	0.026367248085525895	0.06732466208340902	True
2298	qkv_head_3_23_3_2	3		cal-zh-1	7.947885719863741	1.0069866675515422	0.0080127433991534	0.013462068597038523	0.1062526309532813	True
2299	qkv_head_3_23_3_2	3		cal-zh-2	9.269020322522785	1.0049556699314792	0.008389508605318894	0.011990407410406662	0.11059127610073084	True
2300	qkv_head_3_23_3_2	3		cal-en-1	8.666738834911902	1.0045644964251579	0.018485736905063815	0.012537383553623561	0.10816451240218634	True
2301	qkv_head_3_23_3_2	3		cal-en-2	9.017541959011718	1.0064034868255214	-0.0017574672062216333	0.0117573850525916	0.10534811775585882	True
2302	qkv_head_3_23_3_2	23		cal-zh-1	4.227244695386923	1.0313483510439196	-0.008514939690096264	0.03415568686274398	0.1399958083626031	True
2303	qkv_head_3_23_3_2	23		cal-zh-2	4.7381710926271765	1.026452549337005	-0.015404309074735792	0.030931366759229362	0.14278118158378872	True
2304	qkv_head_3_23_3_2	23		cal-en-1	5.166337553185738	1.0139812645633912	0.026399522462667215	0.029480631460127294	0.15020681222316876	True
2305	qkv_head_3_23_3_2	23		cal-en-2	5.493126815721338	1.0208948041881376	-0.020678478224610556	0.026367248085525895	0.14187420380747431	True
2306	qkv_head_3_23_3_3	3		cal-zh-1	5.319005378623584	1.0218804531237144	-0.019076907296194157	0.013462068597038523	0.07007161655374054	True
2307	qkv_head_3_23_3_3	3		cal-zh-2	6.219738953998769	1.0111651976179032	0.012225573649068563	0.011990407410406662	0.07375372908453569	True
2308	qkv_head_3_23_3_3	3		cal-en-1	6.012131314816988	1.0135713845135368	0.0032471549210572833	0.012537383553623561	0.07436713133410783	True
2309	qkv_head_3_23_3_3	3		cal-en-2	6.354631538721102	1.0121205972418037	0.0030757068282190277	0.0117573850525916	0.07381911806922442	True
2310	qkv_head_3_23_3_3	23		cal-zh-1	1.9353606261822318	1.1836474408167275	-0.022056264717472497	0.03415568686274398	0.055847348826059504	True
2311	qkv_head_3_23_3_3	23		cal-zh-2	2.067483220702105	1.1312457117538532	0.017972823828982208	0.030931366759229362	0.05653067331317707	True
2312	qkv_head_3_23_3_3	23		cal-en-1	2.251995691560786	1.1262876106011832	-0.018390362415450997	0.029480631460127294	0.058946093704485156	True
2313	qkv_head_3_23_3_3	23		cal-en-2	2.450046788317661	1.094964279212492	0.0008802947856370945	0.026367248085525895	0.05899826388416919	True
2314	qkv_head_3_23_3_4	3		cal-zh-1	4.279125212153626	1.024762098466423	0.015059749213319398	0.013462068597038523	0.056213902941509526	True
2315	qkv_head_3_23_3_4	3		cal-zh-2	4.98032019903656	1.0143305584344189	0.030967266772051673	0.011990407410406662	0.05887239393920604	True
2316	qkv_head_3_23_3_4	3		cal-en-1	4.656582271191711	1.0202061118615011	0.016384877957310716	0.012537383553623561	0.057225061979298955	True
2317	qkv_head_3_23_3_4	3		cal-en-2	5.183800071865632	1.0197790987107436	-0.003174458659601247	0.0117573850525916	0.059765819438376125	True
2318	qkv_head_3_23_3_4	23		cal-zh-1	2.0789319466080887	1.1599481760441208	-0.030618320830897633	0.03415568686274398	0.06121596640589894	True
2319	qkv_head_3_23_3_4	23		cal-zh-2	2.319918943257437	1.1010277358609843	0.013675497587676515	0.030931366759229362	0.06517389285335841	True
2320	qkv_head_3_23_3_4	23		cal-en-1	2.0301738044736646	1.16544200569508	-0.0250060362889934	0.029480631460127294	0.05135459802995266	True
2321	qkv_head_3_23_3_4	23		cal-en-2	2.260722074628663	1.1183069427272991	-0.005977700682019141	0.026367248085525895	0.05330291489453313	True
2322	qkv_head_3_23_3_5	3		cal-zh-1	4.228188468994733	1.030208390823699	-0.004027914608212451	0.013462068597038523	0.05525111590801944	True
2323	qkv_head_3_23_3_5	3		cal-zh-2	4.696901153591013	1.0213785475034263	0.009366931084300086	0.011990407410406662	0.055138967364865635	True
2324	qkv_head_3_23_3_5	3		cal-en-1	4.564354153529866	1.0244885616632984	0.0017885270872732824	0.012537383553623561	0.05585719630141262	True
2325	qkv_head_3_23_3_5	3		cal-en-2	5.198425826660072	1.0180448903502102	0.004944899275396313	0.0117573850525916	0.06003654130649766	True
2326	qkv_head_3_23_3_5	23		cal-zh-1	1.875704725152229	1.1796942992195842	0.003083963528970606	0.03415568686274398	0.054307275437078105	True
2327	qkv_head_3_23_3_5	23		cal-zh-2	2.1557538713905218	1.1357973216897306	-0.011811185103445986	0.030931366759229362	0.05870802155036609	True
2328	qkv_head_3_23_3_5	23		cal-en-1	1.8289583842303296	1.182852975032532	0.014786649610983109	0.029480631460127294	0.045583727833902014	True
2329	qkv_head_3_23_3_5	23		cal-en-2	2.1269520200542007	1.1286491010722794	0.007285194257618323	0.026367248085525895	0.04968937779288413	True
2330	qkv_head_3_23_3_6	3		cal-zh-1	6.3860276051380405	1.011747287180492	0.004632715055915268	0.013462068597038523	0.08497096337419027	True
2331	qkv_head_3_23_3_6	3		cal-zh-2	7.497856103720646	1.0082718546081422	0.00547057868897291	0.011990407410406662	0.08916479119924932	True
2332	qkv_head_3_23_3_6	3		cal-en-1	7.262440946048116	1.0087059621591996	0.006493070751026753	0.012537383553623561	0.09026615395555244	True
2333	qkv_head_3_23_3_6	3		cal-en-2	7.705946187864366	1.0086611948776558	-0.0010092078228608643	0.0117573850525916	0.08982379513099156	True
2334	qkv_head_3_23_3_6	23		cal-zh-1	3.641959966114584	1.0400827049362396	-0.0003751088734905915	0.03415568686274398	0.11959976219091648	True
2335	qkv_head_3_23_3_6	23		cal-zh-2	4.211272047254427	1.0366359344212421	-0.028478880863452793	0.030931366759229362	0.12565684430883853	True
2336	qkv_head_3_23_3_6	23		cal-en-1	4.567454383975093	1.0195815821408598	0.02303463511898932	0.029480631460127294	0.132065390120307	True
2337	qkv_head_3_23_3_6	23		cal-en-2	4.6496381489865755	1.0250168933257042	-0.0046745882057271084	0.026367248085525895	0.11960599223343558	True
2338	qkv_head_3_23_3_7	3		cal-zh-1	4.679431775850926	1.0222863044973722	0.0060813978296474	0.013462068597038523	0.061621515699204876	True
2339	qkv_head_3_23_3_7	3		cal-zh-2	5.479287773288861	1.0143840504776926	0.014309764972107794	0.011990407410406662	0.06476727693978876	True
2340	qkv_head_3_23_3_7	3		cal-en-1	5.076169743279214	1.0194383028888212	0.002682724916768118	0.012537383553623561	0.062428385194519286	True
2341	qkv_head_3_23_3_7	3		cal-en-2	5.645643932194832	1.0121772417782746	0.021307495913410784	0.0117573850525916	0.06557943296968795	True
2342	qkv_head_3_23_3_7	23		cal-zh-1	2.022661435239477	1.1472658974478163	0.004851602106222258	0.03415568686274398	0.060217418442467266	True
2343	qkv_head_3_23_3_7	23		cal-zh-2	2.2902401525236984	1.1164903429741386	-0.009123268544413435	0.030931366759229362	0.0634490558473776	True
2344	qkv_head_3_23_3_7	23		cal-en-1	2.1391244517364716	1.123693859068462	0.0126193126808981	0.029480631460127294	0.056120925730846795	True
2345	qkv_head_3_23_3_7	23		cal-en-2	2.367888924153881	1.1008354405737248	0.00461911281997826	0.026367248085525895	0.056715756416413306	True
2346	qkv_head_3_23_4_0	3		cal-zh-1	4.753571183878946	1.026101843835502	-0.01456926993434344	0.01503991949084825	0.06967469002133174	True
2347	qkv_head_3_23_4_0	3		cal-zh-2	4.704666772081767	1.0321465559384801	-0.039189734372216574	0.01597072034828748	0.07279675247327637	True
2348	qkv_head_3_23_4_0	3		cal-en-1	4.127241707477049	1.0389199094399584	-0.03176179883322215	0.01705834154486236	0.06776643516466678	True
2349	qkv_head_3_23_4_0	3		cal-en-2	4.300107758519407	1.0362537644090282	-0.03267646237284323	0.01589169311153847	0.06594523001217542	True
2350	qkv_head_3_23_4_0	23		cal-zh-1	2.7427626403108105	1.088380628166294	-0.03415534378080158	0.025678951442710235	0.06471198295589271	True
2351	qkv_head_3_23_4_0	23		cal-zh-2	3.1957696322099514	1.0652317117495584	-0.035419828866385374	0.024478235924444217	0.07343641965833723	True
2352	qkv_head_3_23_4_0	23		cal-en-1	2.643233935159769	1.0824921354738486	-0.0049712150590886075	0.025725100924868377	0.06281566167707717	True
2353	qkv_head_3_23_4_0	23		cal-en-2	2.796665846145535	1.0833023221446316	-0.030334031982104468	0.022684526463163438	0.05856263676230147	True
2354	qkv_head_3_23_4_1	3		cal-zh-1	5.1104996403437	1.0258515193551694	-0.03008249035468503	0.01503991949084825	0.0749245886939777	True
2355	qkv_head_3_23_4_1	3		cal-zh-2	4.602395447646309	1.0312809735819013	-0.02974657498865667	0.01597072034828748	0.07127404898326976	True
2356	qkv_head_3_23_4_1	3		cal-en-1	4.252783935578043	1.0346113645851749	-0.0230932625597647	0.01705834154486236	0.07011854245258664	True
2357	qkv_head_3_23_4_1	3		cal-en-2	4.576734909414288	1.0278708272150272	-0.013534995461890815	0.01589169311153847	0.07075992888166813	True
2358	qkv_head_3_23_4_1	23		cal-zh-1	2.878134409482574	1.077616307870075	-0.02813779233532741	0.025678951442710235	0.0685842198256778	True
2359	qkv_head_3_23_4_1	23		cal-zh-2	3.184694367895867	1.071366764202875	-0.05150582057545955	0.024478235924444217	0.07276285086424616	True
2360	qkv_head_3_23_4_1	23		cal-en-1	2.6272009130997978	1.0981143101329185	-0.037261162725103714	0.025725100924868377	0.061546423733625684	True
2361	qkv_head_3_23_4_1	23		cal-en-2	3.1322776696590062	1.0553968410465397	-0.0004932281013437602	0.022684526463163438	0.06732466208340902	True
2362	qkv_head_3_23_4_2	3		cal-zh-1	7.113698116920247	1.006934567180007	0.021613786333024663	0.01503991949084825	0.1062526309532813	True
2363	qkv_head_3_23_4_2	3		cal-zh-2	6.96993615384695	1.0065432381584791	0.02674834186282296	0.01597072034828748	0.11059127610073084	True
2364	qkv_head_3_23_4_2	3		cal-en-1	6.406110829043208	1.010290936178173	0.013264569930788592	0.01705834154486236	0.10816451240218634	True
2365	qkv_head_3_23_4_2	3		cal-en-2	6.700453016007463	1.0107588565126608	0.003719123941199841	0.01589169311153847	0.10534811775585882	True
2366	qkv_head_3_23_4_2	23		cal-zh-1	5.533050629840716	1.0149085184445525	0.009829565617478326	0.025678951442710235	0.1399958083626031	True
2367	qkv_head_3_23_4_2	23		cal-zh-2	5.875477124149193	1.0072848089522208	0.04307245057921494	0.024478235924444217	0.14278118158378872	True
2368	qkv_head_3_23_4_2	23		cal-en-1	5.886714892627317	1.0081855309183174	0.03764199666167255	0.025725100924868377	0.15020681222316876	True
2369	qkv_head_3_23_4_2	23		cal-en-2	6.279003454275688	1.0039613699901346	0.055121532598815526	0.022684526463163438	0.14187420380747431	True
2370	qkv_head_3_23_4_3	3		cal-zh-1	4.788008653497044	1.0276809386130281	-0.023433414781363255	0.01503991949084825	0.07007161655374054	True
2371	qkv_head_3_23_4_3	3		cal-zh-2	4.753038472483985	1.0292286124500454	-0.028681492771518734	0.01597072034828748	0.07375372908453569	True
2372	qkv_head_3_23_4_3	3		cal-en-1	4.502774817111014	1.0328470300246297	-0.030860886575094528	0.01705834154486236	0.07436713133410783	True
2373	qkv_head_3_23_4_3	3		cal-en-2	4.786031152934382	1.0303311702176092	-0.03538979524427076	0.01589169311153847	0.07381911806922442	True
2374	qkv_head_3_23_4_3	23		cal-zh-1	2.366120235318864	1.0879565083672447	0.030199993182097477	0.025678951442710235	0.055847348826059504	True
2375	qkv_head_3_23_4_3	23		cal-zh-2	2.5001006452358547	1.082563674589622	0.01795792440953886	0.024478235924444217	0.05653067331317707	True
2376	qkv_head_3_23_4_3	23		cal-en-1	2.480447748034377	1.082510555779061	0.0213454404315689	0.025725100924868377	0.058946093704485156	True
2377	qkv_head_3_23_4_3	23		cal-en-2	2.783908494835591	1.070398377249008	0.002709497557336481	0.022684526463163438	0.05899826388416919	True
2378	qkv_head_3_23_4_4	3		cal-zh-1	3.8952598280609103	1.0421691279989658	-0.02716248322236803	0.01503991949084825	0.056213902941509526	True
2379	qkv_head_3_23_4_4	3		cal-zh-2	3.8482318136229767	1.0439363854342452	-0.029880948491241333	0.01597072034828748	0.05887239393920604	True
2380	qkv_head_3_23_4_4	3		cal-en-1	3.539609700552528	1.0551298525351585	-0.040994166334887124	0.01705834154486236	0.057225061979298955	True
2381	qkv_head_3_23_4_4	3		cal-en-2	3.9117682635621973	1.0401366759822215	-0.02102644273794545	0.01589169311153847	0.059765819438376125	True
2382	qkv_head_3_23_4_4	23		cal-zh-1	2.5864293330637738	1.0849586660669945	-0.0013954969596254637	0.025678951442710235	0.06121596640589894	True
2383	qkv_head_3_23_4_4	23		cal-zh-2	2.8522978693429843	1.0712758915546252	-0.008745197950271547	0.024478235924444217	0.06517389285335841	True
2384	qkv_head_3_23_4_4	23		cal-en-1	2.23639579238635	1.1202795791242388	-0.004087039928444283	0.025725100924868377	0.05135459802995266	True
2385	qkv_head_3_23_4_4	23		cal-en-2	2.559802052092929	1.0893944075301911	-0.006654348884048245	0.022684526463163438	0.05330291489453313	True
2386	qkv_head_3_23_4_5	3		cal-zh-1	3.8425313427080385	1.0459763768681054	-0.03667783869739801	0.01503991949084825	0.05525111590801944	True
2387	qkv_head_3_23_4_5	3		cal-zh-2	3.634192982497794	1.052625440572984	-0.041647814502636216	0.01597072034828748	0.055138967364865635	True
2388	qkv_head_3_23_4_5	3		cal-en-1	3.449361110571361	1.0534073285415504	-0.026855186784321132	0.01705834154486236	0.05585719630141262	True
2389	qkv_head_3_23_4_5	3		cal-en-2	3.9295708890759213	1.040158764483512	-0.022410215409349316	0.01589169311153847	0.06003654130649766	True
2390	qkv_head_3_23_4_5	23		cal-zh-1	2.3586406821949364	1.1152726602729277	-0.021413155378495977	0.025678951442710235	0.054307275437078105	True
2391	qkv_head_3_23_4_5	23		cal-zh-2	2.6142252173691696	1.0899979243125244	-0.01708749451746607	0.024478235924444217	0.05870802155036609	True
2392	qkv_head_3_23_4_5	23		cal-en-1	2.0324118317508137	1.146988234117199	0.0025755675129344297	0.025725100924868377	0.045583727833902014	True
2393	qkv_head_3_23_4_5	23		cal-en-2	2.3965035678365	1.0940678072132737	0.012520888138084585	0.022684526463163438	0.04968937779288413	True
2394	qkv_head_3_23_4_6	3		cal-zh-1	5.7545487626252285	1.018559124896689	-0.01732604849728066	0.01503991949084825	0.08497096337419027	True
2395	qkv_head_3_23_4_6	3		cal-zh-2	5.708461945024213	1.0224691620608033	-0.037297701824708256	0.01597072034828748	0.08916479119924932	True
2396	qkv_head_3_23_4_6	3		cal-en-1	5.415119688695209	1.0233399464605148	-0.030458157507004063	0.01705834154486236	0.09026615395555244	True
2397	qkv_head_3_23_4_6	3		cal-en-2	5.773742076390857	1.0214947726198076	-0.03433915788999285	0.01589169311153847	0.08982379513099156	True
2398	qkv_head_3_23_4_6	23		cal-zh-1	4.751941128644159	1.020276823847554	0.01195688115438125	0.025678951442710235	0.11959976219091648	True
2399	qkv_head_3_23_4_6	23		cal-zh-2	5.200820764288539	1.0131315836335115	0.02954871068616712	0.024478235924444217	0.12565684430883853	True
2400	qkv_head_3_23_4_6	23		cal-en-1	5.229412731750014	1.0186406156791812	0.0008077563770251619	0.025725100924868377	0.132065390120307	True
2401	qkv_head_3_23_4_6	23		cal-en-2	5.341940254957029	1.0131547994828252	0.02501427947063671	0.022684526463163438	0.11960599223343558	True
2402	qkv_head_3_23_4_7	3		cal-zh-1	4.229556047359461	1.0323047350024441	-0.012462133959669327	0.01503991949084825	0.061621515699204876	True
2403	qkv_head_3_23_4_7	3		cal-zh-2	4.173017635369825	1.0290087959838308	0.003945231154344247	0.01597072034828748	0.06476727693978876	True
2404	qkv_head_3_23_4_7	3		cal-en-1	3.8161865189774735	1.0427598413250674	-0.023210546016678615	0.01705834154486236	0.062428385194519286	True
2405	qkv_head_3_23_4_7	3		cal-en-2	4.281427705991848	1.0375072198978847	-0.03651808612144932	0.01589169311153847	0.06557943296968795	True
2406	qkv_head_3_23_4_7	23		cal-zh-1	2.5117112078841948	1.0710872670005256	0.040593087271120896	0.025678951442710235	0.060217418442467266	True
2407	qkv_head_3_23_4_7	23		cal-zh-2	2.762136757042484	1.0656145200505713	0.017240245719899284	0.024478235924444217	0.0634490558473776	True
2408	qkv_head_3_23_4_7	23		cal-en-1	2.385485448740342	1.0934754394102948	0.015740057924981964	0.025725100924868377	0.056120925730846795	True
2409	qkv_head_3_23_4_7	23		cal-en-2	2.6453027151966824	1.058038246115877	0.05066648921161372	0.022684526463163438	0.056715756416413306	True
2410	qkv_head_3_23_5_0	3		cal-zh-1	6.9856663628276285	1.014698927149406	-0.029310865940251517	0.010120556800467573	0.06967469002133174	True
2411	qkv_head_3_23_5_0	3		cal-zh-2	7.366252024807134	1.0098426007740549	-0.003604535014183382	0.009979737537888988	0.07279675247327637	True
2412	qkv_head_3_23_5_0	3		cal-en-1	5.760015757087453	1.0161032452489591	-0.003816788890425387	0.011954428181041804	0.06776643516466678	True
2413	qkv_head_3_23_5_0	3		cal-en-2	6.021236189112271	1.0163761471636055	-0.013410984210801363	0.01113146149702431	0.06594523001217542	True
2414	qkv_head_3_23_5_0	23		cal-zh-1	3.2237009382174406	1.0564398439926042	-0.013229881057589621	0.021206780184820032	0.06471198295589271	True
2415	qkv_head_3_23_5_0	23		cal-zh-2	3.7898573158585096	1.037312515278968	-0.0020120709987150936	0.020100101623909166	0.07343641965833723	True
2416	qkv_head_3_23_5_0	23		cal-en-1	2.8473360431183905	1.0652640934383841	0.006926944956234285	0.0235010086188768	0.06281566167707717	True
2417	qkv_head_3_23_5_0	23		cal-en-2	2.9630373926540305	1.0666111365229485	-0.011222144173916497	0.021080922134050276	0.05856263676230147	True
2418	qkv_head_3_23_5_1	3		cal-zh-1	7.520182266067201	1.0158004615074987	-0.0503599406556204	0.010120556800467573	0.0749245886939777	True
2419	qkv_head_3_23_5_1	3		cal-zh-2	7.259454757345844	1.0164632735190444	-0.04853690888941676	0.009979737537888988	0.07127404898326976	True
2420	qkv_head_3_23_5_1	3		cal-en-1	5.999863393098279	1.0229096829466293	-0.05067129276098417	0.011954428181041804	0.07011854245258664	True
2421	qkv_head_3_23_5_1	3		cal-en-2	6.4794536141891586	1.019302726387948	-0.04523033870693006	0.01113146149702431	0.07075992888166813	True
2422	qkv_head_3_23_5_1	23		cal-zh-1	3.3971600817313305	1.050428615927025	-0.012597954748157343	0.021206780184820032	0.0685842198256778	True
2423	qkv_head_3_23_5_1	23		cal-zh-2	3.767201475785806	1.0406564833792507	-0.012048675340127548	0.020100101623909166	0.07276285086424616	True
2424	qkv_head_3_23_5_1	23		cal-en-1	2.802092519077898	1.0699565701290594	0.0013045182546902415	0.0235010086188768	0.061546423733625684	True
2425	qkv_head_3_23_5_1	23		cal-en-2	3.3456239040644324	1.0475928854127912	0.000950685975826486	0.021080922134050276	0.06732466208340902	True
2426	qkv_head_3_23_5_2	3		cal-zh-1	10.59564777894194	1.0092348229163393	-0.049776285979208905	0.010120556800467573	0.1062526309532813	True
2427	qkv_head_3_23_5_2	3		cal-zh-2	11.172617744019918	1.0082150837550858	-0.046290142735581775	0.009979737537888988	0.11059127610073084	True
2428	qkv_head_3_23_5_2	3		cal-en-1	9.159218300738251	1.0122841118492942	-0.05656978902182622	0.011954428181041804	0.10816451240218634	True
2429	qkv_head_3_23_5_2	3		cal-en-2	9.561256021458835	1.0102767427958326	-0.044927015174668156	0.01113146149702431	0.10534811775585882	True
2430	qkv_head_3_23_5_2	23		cal-zh-1	6.698197598222735	1.014653265418366	-0.021700971617448713	0.021206780184820032	0.1399958083626031	True
2431	qkv_head_3_23_5_2	23		cal-zh-2	7.20981061009753	1.014965167990687	-0.036712806825452735	0.020100101623909166	0.14278118158378872	True
2432	qkv_head_3_23_5_2	23		cal-en-1	6.502656196747852	1.0173904702691787	-0.03388892524645866	0.0235010086188768	0.15020681222316876	True
2433	qkv_head_3_23_5_2	23		cal-en-2	6.8004869616543315	1.0104764098398171	0.003419052201778496	0.021080922134050276	0.14187420380747431	True
2434	qkv_head_3_23_5_3	3		cal-zh-1	7.025177235093059	1.0146576993351195	-0.030013356597691776	0.010120556800467573	0.07007161655374054	True
2435	qkv_head_3_23_5_3	3		cal-zh-2	7.480928365264613	1.0122566350444184	-0.023480084299400208	0.009979737537888988	0.07375372908453569	True
2436	qkv_head_3_23_5_3	3		cal-en-1	6.320845180166566	1.0160683677619495	-0.020388164959947296	0.011954428181041804	0.07436713133410783	True
2437	qkv_head_3_23_5_3	3		cal-en-2	6.738564145320696	1.016133344461317	-0.03245565341351006	0.01113146149702431	0.07381911806922442	True
2438	qkv_head_3_23_5_3	23		cal-zh-1	2.8377210777673776	1.0775610371313216	-0.022311694068244164	0.021206780184820032	0.055847348826059504	True
2439	qkv_head_3_23_5_3	23		cal-zh-2	2.9924991702426698	1.0640159387120003	-0.008024371894559243	0.020100101623909166	0.05653067331317707	True
2440	qkv_head_3_23_5_3	23		cal-en-1	2.7275918899644584	1.0874539174078603	-0.02960364001749545	0.0235010086188768	0.058946093704485156	True
2441	qkv_head_3_23_5_3	23		cal-en-2	2.9872740163002884	1.067395661918719	-0.01631617547711193	0.021080922134050276	0.05899826388416919	True
2442	qkv_head_3_23_5_4	3		cal-zh-1	5.684098489825141	1.0233454468654002	-0.041165938295239075	0.010120556800467573	0.056213902941509526	True
2443	qkv_head_3_23_5_4	3		cal-zh-2	5.995244001189146	1.0162821248487857	-0.012075989570468544	0.009979737537888988	0.05887239393920604	True
2444	qkv_head_3_23_5_4	3		cal-en-1	4.897011968964299	1.0229954474468355	-0.006892353445986598	0.011954428181041804	0.057225061979298955	True
2445	qkv_head_3_23_5_4	3		cal-en-2	5.4754890037896375	1.0198169387756728	-0.014327530397963403	0.01113146149702431	0.059765819438376125	True
2446	qkv_head_3_23_5_4	23		cal-zh-1	3.088476595969963	1.0699274735354793	-0.0356989692199374	0.021206780184820032	0.06121596640589894	True
2447	qkv_head_3_23_5_4	23		cal-zh-2	3.4028315280011086	1.049457942856944	-0.010127739419675196	0.020100101623909166	0.06517389285335841	True
2448	qkv_head_3_23_5_4	23		cal-en-1	2.3937801241510543	1.0954471359421087	0.010285480557800363	0.0235010086188768	0.05135459802995266	True
2449	qkv_head_3_23_5_4	23		cal-en-2	2.716318041835467	1.0742843847198755	0.002942734835617469	0.021080922134050276	0.05330291489453313	True
2450	qkv_head_3_23_5_5	3		cal-zh-1	5.55814648408959	1.0181068069501773	-0.008158453147532661	0.010120556800467573	0.05525111590801944	True
2451	qkv_head_3_23_5_5	3		cal-zh-2	5.6121544815333495	1.015757665122294	0.0027477320540722884	0.009979737537888988	0.055138967364865635	True
2452	qkv_head_3_23_5_5	3		cal-en-1	4.776270950210211	1.0222064806006075	0.0020967497984610384	0.011954428181041804	0.05585719630141262	True
2453	qkv_head_3_23_5_5	3		cal-en-2	5.481892730487326	1.0164056178504886	0.003497684945116866	0.01113146149702431	0.06003654130649766	True
2454	qkv_head_3_23_5_5	23		cal-zh-1	2.7543235637839474	1.0755526567100964	-0.005539491623086649	0.021206780184820032	0.054307275437078105	True
2455	qkv_head_3_23_5_5	23		cal-zh-2	3.089314442349827	1.0577010193772163	-0.0022073426308291608	0.020100101623909166	0.05870802155036609	True
2456	qkv_head_3_23_5_5	23		cal-en-1	2.1763083681578124	1.1220109488143273	0.006682501453714105	0.0235010086188768	0.045583727833902014	True
2457	qkv_head_3_23_5_5	23		cal-en-2	2.550931100446038	1.0822429719683715	0.010302421326429277	0.021080922134050276	0.04968937779288413	True
2458	qkv_head_3_23_5_6	3		cal-zh-1	8.469070600035694	1.008717644842732	-0.013958286649579125	0.010120556800467573	0.08497096337419027	True
2459	qkv_head_3_23_5_6	3		cal-zh-2	8.993099477296575	1.0065494600328528	-0.0027459970840275866	0.009979737537888988	0.08916479119924932	True
2460	qkv_head_3_23_5_6	3		cal-en-1	7.63074038074596	1.0105796453310836	-0.014090280782563818	0.011954428181041804	0.09026615395555244	True
2461	qkv_head_3_23_5_6	3		cal-en-2	8.158732696317175	1.0110752806773042	-0.02790258772547838	0.01113146149702431	0.08982379513099156	True
2462	qkv_head_3_23_5_6	23		cal-zh-1	5.726403528343927	1.0153747687333672	0.0012817195615900299	0.021206780184820032	0.11959976219091648	True
2463	qkv_head_3_23_5_6	23		cal-zh-2	6.338765917166579	1.0139506511246854	-0.007841440648146769	0.020100101623909166	0.12565684430883853	True
2464	qkv_head_3_23_5_6	23		cal-en-1	5.69615103381946	1.0136288880702844	0.011864598112026493	0.0235010086188768	0.132065390120307	True
2465	qkv_head_3_23_5_6	23		cal-en-2	5.750096981675041	1.0134721887290445	0.011175022594735615	0.021080922134050276	0.11960599223343558	True
2466	qkv_head_3_23_5_7	3		cal-zh-1	6.221460725336454	1.0217964608335366	-0.052040792418513344	0.010120556800467573	0.061621515699204876	True
2467	qkv_head_3_23_5_7	3		cal-zh-2	6.608293638392162	1.0182462379229735	-0.042453122773247684	0.009979737537888988	0.06476727693978876	True
2468	qkv_head_3_23_5_7	3		cal-en-1	5.362294798356628	1.0268272653984347	-0.046231358505505	0.011954428181041804	0.062428385194519286	True
2469	qkv_head_3_23_5_7	3		cal-en-2	6.000253692319101	1.018483843544368	-0.02503128668841447	0.01113146149702431	0.06557943296968795	True
2470	qkv_head_3_23_5_7	23		cal-zh-1	3.01732450781246	1.0626117697918933	-0.007269105767434971	0.021206780184820032	0.060217418442467266	True
2471	qkv_head_3_23_5_7	23		cal-zh-2	3.330776973369004	1.055160786195696	-0.020530289472014573	0.020100101623909166	0.0634490558473776	True
2472	qkv_head_3_23_5_7	23		cal-en-1	2.591195606010455	1.0850802882707289	-0.0024383297835121483	0.0235010086188768	0.056120925730846795	True
2473	qkv_head_3_23_5_7	23		cal-en-2	2.8762809098962356	1.0690971562116098	-0.006473186950841723	0.021080922134050276	0.056715756416413306	True
2474	qkv_head_3_23_6_0	3		cal-zh-1	6.634007919646239	1.0055618683379701	0.0389929766311649	0.010561068410279402	0.06967469002133174	True
2475	qkv_head_3_23_6_0	3		cal-zh-2	7.270907461230046	1.0059373731246244	0.026132815261531585	0.010071504051652823	0.07279675247327637	True
2476	qkv_head_3_23_6_0	3		cal-en-1	6.210038582005896	1.0109850207975453	0.013552465024812443	0.011032274592116392	0.06776643516466678	True
2477	qkv_head_3_23_6_0	3		cal-en-2	6.0921156704287185	1.0119150364052494	0.010890771321041362	0.01095366100030517	0.06594523001217542	True
2478	qkv_head_3_23_6_0	23		cal-zh-1	2.545535781922692	1.0793245936973912	0.017499983282552027	0.027438323675209146	0.06471198295589271	True
2479	qkv_head_3_23_6_0	23		cal-zh-2	3.03827347925976	1.04725041261789	0.03202193933466114	0.025312507683512262	0.07343641965833723	True
2480	qkv_head_3_23_6_0	23		cal-en-1	2.491559285122358	1.0821371819399208	0.020277709820000645	0.027282177676773836	0.06281566167707717	True
2481	qkv_head_3_23_6_0	23		cal-en-2	2.426669218796188	1.0829248730951249	0.029603285055464376	0.026134149431125114	0.05856263676230147	True
2482	qkv_head_3_23_6_1	3		cal-zh-1	7.141425454695089	1.0066265839909474	0.02331049522221993	0.010561068410279402	0.0749245886939777	True
2483	qkv_head_3_23_6_1	3		cal-zh-2	7.129610083092689	1.0074620126524299	0.017649157133960345	0.010071504051652823	0.07127404898326976	True
2484	qkv_head_3_23_6_1	3		cal-en-1	6.420696814491286	1.0102162402775645	0.013405037880344665	0.011032274592116392	0.07011854245258664	True
2485	qkv_head_3_23_6_1	3		cal-en-2	6.542164289523768	1.0127292518281616	-0.005353323080253062	0.01095366100030517	0.07075992888166813	True
2486	qkv_head_3_23_6_1	23		cal-zh-1	2.6635210788327384	1.065588464263509	0.030713938709888516	0.027438323675209146	0.0685842198256778	True
2487	qkv_head_3_23_6_1	23		cal-zh-2	3.039099872147459	1.0572323369821919	0.004711514674924613	0.025312507683512262	0.07276285086424616	True
2488	qkv_head_3_23_6_1	23		cal-en-1	2.446716781981929	1.0845758034565653	0.022774353733269866	0.027282177676773836	0.061546423733625684	True
2489	qkv_head_3_23_6_1	23		cal-en-2	2.7595624641937966	1.0712095029072108	0.004114871764844108	0.026134149431125114	0.06732466208340902	True
2490	qkv_head_3_23_6_2	3		cal-zh-1	10.077107331290586	1.0016224440624204	0.033361613514308414	0.010561068410279402	0.1062526309532813	True
2491	qkv_head_3_23_6_2	3		cal-zh-2	10.982913883625518	1.0002096510500202	0.043232465388400344	0.010071504051652823	0.11059127610073084	True
2492	qkv_head_3_23_6_2	3		cal-en-1	9.82367254712083	1.0019686737910336	0.03167705509217012	0.011032274592116392	0.10816451240218634	True
2493	qkv_head_3_23_6_2	3		cal-en-2	9.640103391533613	1.002338027561758	0.029475388635665623	0.01095366100030517	0.10534811775585882	True
2494	qkv_head_3_23_6_2	23		cal-zh-1	5.214742172573194	1.0220576264913974	-0.01578667861719385	0.027438323675209146	0.1399958083626031	True
2495	qkv_head_3_23_6_2	23		cal-zh-2	5.765425533760795	1.0221051297043444	-0.03742643383859229	0.025312507683512262	0.14278118158378872	True
2496	qkv_head_3_23_6_2	23		cal-en-1	5.615084760900897	1.019872120642836	-0.019681162234556904	0.027282177676773836	0.15020681222316876	True
2497	qkv_head_3_23_6_2	23		cal-en-2	5.526347899498742	1.0179891617920447	-0.006432731255266182	0.026134149431125114	0.14187420380747431	True
2498	qkv_head_3_23_6_3	3		cal-zh-1	6.68502520406962	1.0075550126701405	0.025043007480492777	0.010561068410279402	0.07007161655374054	True
2499	qkv_head_3_23_6_3	3		cal-zh-2	7.378546091740279	1.0075837219443173	0.01253167265015974	0.010071504051652823	0.07375372908453569	True
2500	qkv_head_3_23_6_3	3		cal-en-1	6.807655847468424	1.0099075665629813	0.007057937366126371	0.011032274592116392	0.07436713133410783	True

The file is too large to be shown. View Raw