exp-model-parameter-similarity/results/head-dominance/concentration-by-link.csv

1	sample	source	recipient	metric	source_heads	recipient_attention_type	observations	undefined_zero_total	total_count	total_p10	total_median	total_p90	total_mean	max_absolute_count	max_absolute_p10	max_absolute_median	max_absolute_p90	max_absolute_mean	effective_heads_count	effective_heads_p10	effective_heads_median	effective_heads_p90	effective_heads_mean	effective_fraction_count	effective_fraction_p10	effective_fraction_median	effective_fraction_p90	effective_fraction_mean	concentration_count	concentration_p10	concentration_median	concentration_p90	concentration_mean	top1_count	top1_p10	top1_median	top1_p90	top1_mean	top25_count	top25_p10	top25_median	top25_p90	top25_mean	top50_count	top50_p10	top50_median	top50_p90	top50_mean	bottom25_count	bottom25_p10	bottom25_median	bottom25_p90	bottom25_mean	heads90_count	heads90_p10	heads90_median	heads90_p90	heads90_mean
2	fresh-zh-1	0	1	Q	16	linear_attention	400	0	400	2.429101360589266	3.520149750635028	4.5550282966811215	3.514293308496417	400	0.47488542497158054	0.9837200045585632	1.365362322330475	0.9562569992989302	400	5.687866895642076	7.65898625189508	10.53831450501321	7.863706694223669	400	0.35549168097762973	0.4786866407434425	0.6586446565633256	0.49148166838897933	400	0.03455542133661093	0.0726033575546184	0.12086702416909247	0.0770921629598834	400	0.1842166326588672	0.26346488257079725	0.36494695470739064	0.27145601624143234	400	0.4819759131130914	0.5925477556737547	0.6997333224649719	0.589292752812927	400	0.7258310100300859	0.7970895711531301	0.8535465937350637	0.792762013483378	400	0.04527761954999044	0.06622223626764082	0.09518362673149265	0.06828256727598964	400	10.0	11.0	12.0	11.265
3	fresh-zh-1	0	1	K	16	linear_attention	400	0	400	2.6258230035193266	3.464348295237869	4.545622184313833	3.547634291363065	400	0.4927452951669693	0.7190724313259125	1.080737853050232	0.7535221553593874	400	7.399890187205337	9.256685733893061	11.840871677600484	9.448798089478036	400	0.46249313670033354	0.5785428583683163	0.7400544798500303	0.5905498805923772	400	0.023416820252517154	0.048565363958328896	0.07748002529988003	0.050200026455025776	400	0.1576650044791088	0.20577507490508432	0.2828923332979114	0.21337095150308627	400	0.4439259819556893	0.5349321690706872	0.6522081127398792	0.5452988983111056	400	0.7056037079026516	0.7646398746754288	0.8334500440436537	0.7670628738105433	400	0.050077941533532844	0.07441655230876246	0.10566766904618391	0.07582696325555224	400	11.0	12.0	13.0	11.71
4	fresh-zh-1	0	1	V	16	linear_attention	400	0	400	1.6618994304095396	2.9560275971889496	5.096769020985813	3.31489211992608	400	0.3370532244443894	0.6078020632266998	1.5504497528076182	0.8222364107891917	400	6.099072061247005	8.689955404862616	11.58607296085583	8.763978263626717	400	0.38119200382793783	0.5431222128039135	0.7241295600534894	0.5477486414766698	400	0.02539790421690647	0.05608042192008958	0.10822372335890323	0.0638103928360236	400	0.15229133635500944	0.21638926612016002	0.3456439351903112	0.23578560584471517	400	0.4592871304770665	0.570193316882557	0.6756661147143489	0.5654061656009641	400	0.7219544738761362	0.7942583639675627	0.8595696834410961	0.7928212505162944	400	0.03671375015579139	0.059905751077522995	0.09501612366996874	0.06277223569909132	400	10.0	11.0	12.0	11.13
5	fresh-zh-1	0	1	QKV	16	linear_attention	400	0	400	2.7806776499375703	3.527419180376455	4.623040654230863	3.668958644666127	400	0.5347891211509704	0.8136073350906372	1.184285056591034	0.87097770370543	400	6.906984447085922	8.794509923009494	11.176738874947565	8.869054628913807	400	0.4316865279428701	0.5496568701880934	0.6985461796842228	0.5543159143071129	400	0.028769639339771003	0.0546213130146069	0.08776643205837922	0.05775824421784922	400	0.17313449577164663	0.22849681587593088	0.3151995233777782	0.23505532717527466	400	0.46291476731001363	0.5612733360554396	0.6495100049172878	0.5605365728529281	400	0.7170284639238036	0.7730115849200583	0.8320824929388254	0.7733223586089778	400	0.052385459651589916	0.0737097126227649	0.10188241735582697	0.07529209009772804	400	11.0	12.0	13.0	11.665
6	fresh-zh-1	1	2	Q	16	linear_attention	400	0	400	0.4919523543445393	1.0134473060024902	1.5085470150224864	1.0159313781763557	400	0.08705939799547197	0.20679974555969238	0.3549354106187821	0.21840132048353553	400	6.822454189755527	8.598481239074776	10.420966667100178	8.57634675716254	400	0.42640338685972046	0.5374050774421735	0.6513104166937611	0.5360216723226587	400	0.035691098771976376	0.057386994878079314	0.08967984419247192	0.06145501329124079	400	0.15615141462298376	0.20105545653354573	0.2841168347380189	0.2105380875415265	400	0.5005902897160754	0.5803455644643412	0.6681169401685443	0.5836381254101121	400	0.7884049686902198	0.8591029271381095	0.9094417893263294	0.8537247440234702	400	0.016813038207767955	0.02828461758637977	0.054540186859154495	0.03203233886011298	400	8.0	9.5	11.0	9.54
7	fresh-zh-1	1	2	K	16	linear_attention	400	0	400	0.722312238404993	1.0673685721121728	1.531943997507915	1.1099483797014544	400	0.1288822755217552	0.20526132732629776	0.3613698065280914	0.22918809283524752	400	7.353096790119529	8.995945617074707	10.826557130257171	8.963614236835804	400	0.45956854938247055	0.5622466010671692	0.6766598206410732	0.5602258898022378	400	0.031856498246925526	0.05190528735344792	0.07839732500959792	0.05586248974389761	400	0.14415505901838727	0.1932984617430117	0.2706608384379229	0.20468892937169264	400	0.4758596355824017	0.5590998802490588	0.6360807056536669	0.5589157781956183	400	0.7783240032912256	0.8414891499411692	0.8890432002987525	0.8374244941741944	400	0.020459486101284795	0.03380453708127341	0.05542032282025878	0.03633820375699517	400	9.0	10.0	11.0	9.945
8	fresh-zh-1	1	2	V	16	linear_attention	400	0	400	0.4973134163476061	0.9102987396763638	1.5755363196483816	0.9873435483932735	400	0.09400087669491769	0.1873743161559105	0.3633595824241639	0.20929185537621378	400	6.653126987830839	8.548036858920664	10.615267065905229	8.569869320966436	400	0.4158204367394274	0.5342523036825415	0.6634541916190768	0.5356168325604023	400	0.033817656985912055	0.05811832745038133	0.0936589877279045	0.0622713524657142	400	0.14770778796318934	0.2030391393265193	0.2849489847783121	0.21128165231162654	400	0.4944430848854054	0.5783954342548722	0.6691385367269639	0.5834193552833876	400	0.7867761246770342	0.858135594402403	0.917780688985253	0.8545756163995584	400	0.015093247546088609	0.029487547687592472	0.0536097178897243	0.03234443951371928	400	8.0	10.0	11.0	9.5575
9	fresh-zh-1	1	2	QKV	16	linear_attention	400	0	400	0.7504384314408526	1.094116581894923	1.537298795732204	1.1047749286276667	400	0.12243893519043923	0.20843254029750824	0.3249961733818054	0.2172625369206071	400	7.5885696781981755	9.044786656418898	10.899689595781593	9.150839929594042	400	0.47428560488738597	0.5652991660261811	0.6812305997363496	0.5719274955996276	400	0.03119546835705092	0.051265039620679076	0.0738956636306833	0.052284029184004356	400	0.14234151706724504	0.18683652948205282	0.25902377477733723	0.19491383301359225	400	0.4762433814041551	0.5585166073779885	0.6240611452390602	0.5537778694657804	400	0.7829855065671689	0.8451482215064245	0.890195529357141	0.8392779151459865	400	0.0196607747001165	0.033737600841906426	0.056869627611915725	0.03607052435295721	400	9.0	10.0	11.0	9.88
10	fresh-zh-1	2	3	Q	16	full_attention	200	0	200	0.8348475917766336	1.1361491297720931	1.6960345567553303	1.2002219437780877	200	0.22832624167203902	0.2860960364341736	0.39249175786972046	0.30112025029957296	200	6.130382096140542	8.164131992339712	9.763619471799924	8.049060555424102	200	0.38314888100878386	0.510258249521232	0.6102262169874952	0.5030662847140064	200	0.04258243760755125	0.06398615784783833	0.10733041697722742	0.06998809959298968	200	0.18845946241609016	0.2530277699392792	0.3380382312714261	0.25834641383503315	200	0.5274206551766942	0.5801220810185626	0.6429009074492729	0.5817870850207154	200	0.7886696609804783	0.8367034920742586	0.8804709973439675	0.8329291960697924	200	0.014185908410063007	0.037601374322041664	0.0648660315307585	0.03854475190086285	200	9.0	10.0	11.0	10.18
11	fresh-zh-1	2	3	K	16	full_attention	200	0	200	0.9481974663154689	1.123923289414961	1.459433244937099	1.1702006854029605	200	0.23184000551700593	0.27220672369003296	0.33163814544677733	0.2769536828994751	200	7.221345906722338	8.219899876053379	9.556294933535497	8.338902767051964	200	0.4513341191701461	0.5137437422533362	0.5972684333459686	0.5211814229407478	200	0.044952877192840295	0.06310278749599307	0.08104551970609353	0.06266317998144431	200	0.1913092149796528	0.24399852331036923	0.2838395833820304	0.2402448643049889	200	0.5243109110766915	0.5837120082633487	0.6300260713973377	0.5794902081869165	200	0.8005518168893325	0.8431713945495234	0.8751113885489876	0.8372445372576465	200	0.014816394280292371	0.03623670050698838	0.06232520797438394	0.03764931008410226	200	9.0	10.0	11.0	10.16
12	fresh-zh-1	2	3	V	16	full_attention	200	0	200	1.0673203796497546	1.2973932593886275	2.2399458701722317	1.463776254808763	200	0.2684808224439621	0.3130621016025543	0.4607035547494887	0.34213996678590775	200	6.888963030484107	8.57069360970703	9.807240859802178	8.492872798802923	200	0.4305601894052567	0.5356683506066894	0.6129525537376361	0.5308045499251827	200	0.04209715538255347	0.057788472076842456	0.08817622823015829	0.06118871430043193	200	0.1942415822527857	0.2372664246848083	0.29519498694717244	0.239932479346568	200	0.5030105766020796	0.5655827050424824	0.6195335311242982	0.5668923081616112	200	0.7711891554112194	0.8158122185073091	0.8619132870200089	0.8139867859409078	200	0.017300658186363126	0.04459526510423922	0.07570313009017611	0.044977364346506066	200	9.0	11.0	12.0	10.7
13	fresh-zh-1	2	3	QKV	16	full_attention	200	0	200	1.0199183085933328	1.1750049997936003	1.9069260513409971	1.3038114167831372	200	0.250296925008297	0.2935818135738373	0.3817494958639145	0.3097901244461536	200	7.196501267820574	8.441507481465084	9.751193704228024	8.44616190715833	200	0.4497813292387859	0.5275942175915678	0.6094496065142515	0.5278851191973957	200	0.04272226697397949	0.059693070665254866	0.08155381570809245	0.06124391513532672	200	0.19220363243778327	0.2452880404617358	0.28456213418232335	0.24238526627742943	200	0.5093232051398124	0.5697030938067207	0.6206605729117751	0.5686563434922721	200	0.7771778324174323	0.8286977027123357	0.8689578331982056	0.823016277118345	200	0.015305978073171437	0.04065693749556967	0.07249220059719527	0.041722741269430416	200	9.0	10.0	12.0	10.465
14	fresh-zh-1	2	3	JS	16	full_attention	200	0	200	0.028982629118581828	0.05374104665088453	0.09855992669154144	0.06108389672119415	200	0.010798964649438858	0.024645465426146984	0.08034284934401512	0.03651118309469894	200	1.3175070315523083	3.5480553550417184	6.017363110228346	3.5979467985382336	200	0.08234418947201927	0.2217534596901074	0.3760851943892716	0.2248716749086396	200	0.11061324421376217	0.23398621779410705	0.7429507366244389	0.3257845391446977	200	0.2976556613016461	0.488028777970165	0.8696035028760013	0.5342668192607622	200	0.7064194054950236	0.8101997774989895	0.9495847511402526	0.8153004192781174	200	0.8984980468457894	0.9461568854525526	0.9837933181787005	0.9424611423371019	200	0.0029290946529022268	0.009887020058842282	0.021721080315529443	0.01144397224682556	200	2.0	7.0	9.0	6.06
15	fresh-zh-1	2	3	sqrtJS	16	full_attention	200	0	200	0.5068664275109768	0.66347974864766	0.8529259402770549	0.66853969598189	200	0.10391714274883271	0.1569887399673462	0.2834477216005325	0.17618735685944556	200	4.400645222422045	8.823949964387808	10.779013738541964	8.351667359484624	200	0.2750403264013778	0.551496872774238	0.6736883586588728	0.521979209967789	200	0.03229113834557456	0.054216715127082156	0.17572335128539068	0.07490029534993962	200	0.16524507391431523	0.23259758939678682	0.4443199621821767	0.2653715311832368	200	0.4897872200818199	0.5532730641446492	0.6650363202455166	0.5660363140298347	200	0.7454979994578955	0.7984299359235015	0.8522671606190597	0.798027595599657	200	0.04255478964937405	0.06211678658355077	0.08472368152523543	0.06290225602690902	200	10.0	11.0	12.0	11.12
16	fresh-zh-1	3	4	Q	8	linear_attention	400	0	400	0.5557760668918491	1.2035991735756397	2.7694889150559905	1.4282717361161485	400	0.10986580029129982	0.2686391770839691	0.9802173316478735	0.385493537671864	400	4.412356865827618	6.5894809376431915	7.294178216213576	6.32901449297088	400	0.5515446082284523	0.8236851172053989	0.911772277026697	0.79112681162136	400	0.013823588797631101	0.03057948390482717	0.1161559317055479	0.0449319615620877	400	0.18930166147926616	0.22759472452826562	0.34535849534858265	0.24612360728472168	400	0.3527067301920025	0.41756426257979695	0.6078362720471945	0.4403330942695859	400	0.6242944902209702	0.6846834001728204	0.8296547046533881	0.6964017941901508	400	0.06480443681296434	0.12528725648034666	0.16017576563531435	0.12294561186246948	400	6.0	7.0	7.0	6.7625
17	fresh-zh-1	3	4	K	8	linear_attention	400	0	400	0.7813550390303134	1.1287835463881493	1.8791275978088382	1.2311416709050536	400	0.15441228151321412	0.24663127213716507	0.4807141304016116	0.28828068025410175	400	5.448574678275059	6.86858547196183	7.310594972481833	6.665570492465333	400	0.6810718347843824	0.8585731839952288	0.9138243715602291	0.8331963115581666	400	0.013471742693807258	0.023531870758839682	0.06689628062242073	0.031402245988877704	400	0.18021515251331333	0.21512443309487483	0.30717373045199886	0.228448474221392	400	0.3411882855416954	0.3940215473457226	0.5156435506982462	0.40776819835259387	400	0.6217219186699433	0.6644997460849055	0.7379743245939709	0.6717035536935189	400	0.10195968576323201	0.13333882078099873	0.16010469049043216	0.13233058544649764	400	7.0	7.0	7.0	6.91
18	fresh-zh-1	3	4	V	8	linear_attention	400	0	400	0.5568574259057641	1.0929276589304209	2.0630700096487997	1.2380642587295734	400	0.14729319214820863	0.28404104709625244	0.5434242546558382	0.3163391994684935	400	5.2364312861383855	6.215160742536021	7.113703308025048	6.185090559479871	400	0.6545539107672982	0.7768950928170026	0.889212913503131	0.7731363199349839	400	0.01779896561159364	0.04102513374562051	0.0753941873259701	0.044591109741713604	400	0.1944153281993725	0.2544354717187791	0.32521124064773155	0.25746440345878896	400	0.3654906100732668	0.44510639664815854	0.5313035316984108	0.44715327693270523	400	0.640403292413115	0.7079794523062812	0.7647579544221347	0.7042017618810942	400	0.08895730301525785	0.11470029494701212	0.15088125348503126	0.1172794500855358	400	6.0	7.0	7.0	6.71
19	fresh-zh-1	3	4	QKV	8	linear_attention	400	0	400	0.7889723796397448	1.2168751917779446	2.1376202166080476	1.377372672157362	400	0.16027085036039354	0.2687840461730957	0.6374220669269562	0.33303765455260875	400	5.075341633710963	6.769595806675813	7.318013294230532	6.520162938019946	400	0.6344177042138703	0.8461994758344766	0.9147516617788165	0.8150203672524933	400	0.013313268019184808	0.025964922332192067	0.08232184636311993	0.03653755501045374	400	0.1833295249601778	0.21763868323456853	0.3135927690484865	0.23266585924959315	400	0.3458837955976494	0.40303658619382643	0.5536054790156133	0.4236755754067282	400	0.6237465215280442	0.6714963247889597	0.7726398501451421	0.682340544061076	400	0.09399344826956293	0.13265386372995686	0.15653309350283023	0.1296820372707155	400	6.0	7.0	7.0	6.8725
20	fresh-zh-1	4	5	Q	16	linear_attention	400	0	400	0.5529486530460418	0.9712166800163686	1.3937916854396464	0.9745137749804417	400	0.07718285247683525	0.14298399537801743	0.23485634773969655	0.15007275919429958	400	10.023081933356542	11.68439982919071	12.915023140391108	11.561880889285884	400	0.6264426208347839	0.7302749893244194	0.8071889462744443	0.7226175555803678	400	0.015924487523854707	0.02462315118424866	0.039754359812644816	0.026655923385890602	400	0.1172125475583986	0.14663260613273274	0.1957001125498848	0.15324311732727033	400	0.406328127318147	0.458691855800027	0.5226096313893106	0.46189044288992703	400	0.6924297200750027	0.7354484648183404	0.7767195801918525	0.7350643372448331	400	0.0622921930831271	0.08026613657123874	0.10419169417357137	0.08273736500595881	400	11.0	12.0	13.0	11.9975
21	fresh-zh-1	4	5	K	16	linear_attention	400	0	400	0.6115223877946846	0.9048468508990481	1.251787215191871	0.9118778689983447	400	0.07747846469283104	0.12130804732441902	0.19595039635896683	0.1303617076156661	400	10.722570381318834	12.154069436726337	13.307439716828021	12.08792854145712	400	0.6701606488324271	0.759629339795396	0.8317149823017513	0.75549553384107	400	0.013489002802163415	0.021095465388176034	0.03281197361118651	0.022248525525734895	400	0.11181152173275515	0.1383523966997363	0.1774973956714344	0.1421228748304328	400	0.3948537551087122	0.43966621854363186	0.4990546308358602	0.44283328212455025	400	0.6808406730708435	0.7177667740443578	0.7606010570205007	0.718339432237346	400	0.0683096342316758	0.09010447455753517	0.11279447355750542	0.09110416263943287	400	12.0	12.0	13.0	12.21
22	fresh-zh-1	4	5	V	16	linear_attention	400	0	400	0.3245677670900477	0.6919851255370304	1.4499126452021303	0.8258946844962338	400	0.056015729904174805	0.10960651189088821	0.25974831581115726	0.1390983904665336	400	9.246466697988279	11.004331334674944	12.412264134831256	10.892907343093466	400	0.5779041686242674	0.687770708417184	0.7757665084269535	0.6808067089433416	400	0.019269886144077084	0.03026490460454602	0.04869271354354161	0.032746298475843	400	0.12717513712770148	0.1628155668133517	0.22181564050232946	0.1691504601454467	400	0.4273240896833351	0.4863091248083924	0.5495400600032926	0.4882786276402555	400	0.7040900313379921	0.7533820660614597	0.8027558507512916	0.7529665700740196	400	0.05255446176086491	0.072717414816377	0.10089424215657365	0.07502067581868756	400	11.0	12.0	13.0	11.735
23	fresh-zh-1	4	5	QKV	16	linear_attention	400	0	400	0.6183724389178679	0.8954020673409104	1.3749657900072636	0.9632487819958624	400	0.08114546462893486	0.12070538848638535	0.2128489837050438	0.13513314268551768	400	11.03759630846846	12.259679951088492	13.31912474229267	12.190373056824082	400	0.6898497692792788	0.7662299969430307	0.8324452963932919	0.7618983160515052	400	0.013418676912665448	0.020339411235023842	0.02997274082121978	0.02137383146441303	400	0.11204599139111363	0.13452876494461008	0.16820503191644323	0.13883665744741525	400	0.391955034062306	0.43702979809839326	0.4871559622657572	0.43889545356409654	400	0.6727321025063145	0.717597463372549	0.7565385272636862	0.7156504498371593	400	0.07054508626063702	0.09013293232831338	0.11487727108819931	0.09210415006115148	400	12.0	12.0	13.0	12.245
24	fresh-zh-1	5	6	Q	16	linear_attention	400	0	400	0.7430913228541612	1.147736200131476	1.6089440200477838	1.166246029753238	400	0.09927731826901437	0.15613681077957153	0.238798226416111	0.16578936299309135	400	10.863359295960894	12.575643999140802	13.782068203250859	12.405180183911067	400	0.6789599559975559	0.7859777499463001	0.8613792627031787	0.7753237614944417	400	0.010728587354009564	0.018153376635150546	0.03152312244372333	0.020251057164659317	400	0.11037490247005323	0.13572589674515548	0.1794568234279382	0.14208104333730007	400	0.38520976275004104	0.4310202002127746	0.4972803179506637	0.4373981357308564	400	0.6613351021305812	0.7015637143598845	0.7530538230535062	0.7034325937859875	400	0.08583743174901834	0.1097377667327455	0.1366140850223725	0.11104477865767017	400	12.0	13.0	13.0	12.7825
25	fresh-zh-1	5	6	K	16	linear_attention	400	0	400	0.8241071481257677	1.122505891136825	1.5527067782357338	1.1691769000247587	400	0.09676236137747765	0.1425568014383316	0.21285407543182375	0.1503893599845469	400	11.75685254912592	13.447297040783358	14.463803209071521	13.271603931688915	400	0.73480328432037	0.8404560650489599	0.9039877005669701	0.8294752457305572	400	0.007080661035434766	0.012655346477137478	0.02406057719815614	0.014290592859103137	400	0.10101409270525082	0.12341164568454366	0.16539557717265407	0.12856649489850935	400	0.35510439307558944	0.39929412378299156	0.4575560002153773	0.40396296680481564	400	0.6271906707564133	0.6686115701156119	0.716526233909435	0.6705015811752727	400	0.1013596870676708	0.13100641981410865	0.15789417174238096	0.13025604262662221	400	13.0	13.0	14.0	13.185
26	fresh-zh-1	5	6	V	16	linear_attention	400	0	400	0.6337890403345228	0.9958858909085393	1.638427373580635	1.1012471098068637	400	0.09457711055874825	0.15001538395881653	0.2569383829832077	0.16589635238051414	400	9.968687883963238	12.16123583144756	13.63070961812831	11.963441490701625	400	0.6230429927477024	0.7600772394654725	0.8519193511330194	0.7477150931688515	400	0.011588002134642065	0.021043841449477144	0.04033508188148871	0.023928837109109678	400	0.1149699135082047	0.1444550466441079	0.2017398771423816	0.15336156900852616	400	0.38979639155693535	0.44726902793020384	0.5203732030368934	0.45182293508115234	400	0.6632123907349297	0.7105725281533102	0.773868696376879	0.7145026094714317	400	0.07429125170008277	0.105520159984926	0.1361598437108261	0.10503434568888251	400	12.0	13.0	13.0	12.5575
27	fresh-zh-1	5	6	QKV	16	linear_attention	400	0	400	0.914624169562012	1.1974874115549028	1.5274685110896826	1.2126480673323385	400	0.10662956014275551	0.14808592945337296	0.20532605648040772	0.15299008158966898	400	12.170506927001252	13.481737822544865	14.33758741526606	13.349694981320868	400	0.7606566829375783	0.8426086139090541	0.8960992134541288	0.8343559363325542	400	0.007729857418288237	0.012452716928912928	0.020977026812987052	0.01360336749422371	400	0.10306485918952771	0.12136694474347459	0.15441393193338307	0.12612433272925463	400	0.36371203636915284	0.39822686076617186	0.44813317509168193	0.402734832383121	400	0.6339899147427374	0.6678814265368334	0.709855463681161	0.6699628866826453	400	0.10638763102622426	0.1315459353030145	0.15282281011257037	0.13035173953935147	400	13.0	13.0	14.0	13.185
28	fresh-zh-1	6	7	Q	16	full_attention	200	0	200	0.6967215406475589	0.8647677625995129	1.1318519309628754	0.8975616289848404	200	0.17643480896949768	0.21954673528671265	0.2563210129737854	0.21804183520376683	200	6.618313132011688	8.77779598215449	10.418830134116405	8.637575406800561	200	0.4136445707507305	0.5486122488846557	0.6511768833822753	0.5398484629250351	200	0.03571207334000921	0.05485249845415002	0.09450269802868984	0.060977296438866214	200	0.19208097882619532	0.23602997737094536	0.32965308733567916	0.2506137886475929	200	0.49666814431412143	0.5572856142656408	0.6170435045908121	0.5553046780869008	200	0.7480730385048123	0.7980640258486347	0.8526203239706098	0.7981134888980815	200	0.039491579187455876	0.06310500190242457	0.08514610754877759	0.06341188559252524	200	10.0	11.0	12.0	11.125
29	fresh-zh-1	6	7	K	16	full_attention	200	0	200	0.7858375686686487	0.924020110629499	1.1293065979145462	0.954063942823559	200	0.17995065450668335	0.21916107088327408	0.2575859248638153	0.2186301603913307	200	7.88689255300789	9.09079278609248	10.156849093731527	9.027217101795987	200	0.4929307845629931	0.56817454913078	0.6348030683582204	0.5642010688622492	200	0.038354240686290286	0.05066854281792081	0.06857903905460921	0.052576098667474855	200	0.19012447386201045	0.2325570240108474	0.2743220075911339	0.23186636101326005	200	0.5061027063145299	0.5477502919164697	0.5906733363766902	0.548262812827514	200	0.7415877916068663	0.7925856942838999	0.8355623230446305	0.7916615319762194	200	0.04248253715574244	0.06732571147416139	0.0919246176836225	0.06689000815217126	200	10.0	11.5	12.0	11.3
30	fresh-zh-1	6	7	V	16	full_attention	200	0	200	0.9605062095448376	1.1428413768298924	1.3685777499340468	1.1591908320144284	200	0.18395001739263536	0.23824387788772583	0.2855415284633636	0.23651585191488267	200	7.849490984354433	9.720638326227162	11.491538283414172	9.75516520332515	200	0.49059318652215206	0.6075398953891976	0.7182211427133858	0.6096978252078219	200	0.0261552944254837	0.04306600870793091	0.06922333334667033	0.04511758049993119	200	0.15221090312945088	0.196303315084899	0.2714761761644639	0.2081661712960845	200	0.46401879303112714	0.524439052499995	0.6033623833479212	0.5289478617304235	200	0.722501849673635	0.7781866770312609	0.829828023059304	0.7765126503548125	200	0.04951178031102099	0.07199580649954183	0.09990532346205719	0.07328482140146445	200	10.900000000000002	12.0	12.099999999999994	11.62
31	fresh-zh-1	6	7	QKV	16	full_attention	200	0	200	0.8571053378749639	1.0059685087762773	1.183649718435481	1.0213233802010655	200	0.1884602651000023	0.22348716855049133	0.2585281401872635	0.22458526909351348	200	7.7944570256649115	9.303971982080625	10.748833530405351	9.3710458372141	200	0.48715356410405697	0.5814982488800391	0.6718020956503344	0.5856903648258812	200	0.03256903217548453	0.047979708973495835	0.07018273007133141	0.048917588117041826	200	0.1801807823689268	0.22031704948065356	0.2803393183923416	0.22345551685200246	200	0.48813704243826284	0.5326324197050982	0.5923833864598406	0.5361561869350651	200	0.7333737956269141	0.7852361151915166	0.8346699733112655	0.7834009035789988	200	0.046062572291322504	0.07073412362494022	0.09617805857215993	0.07015698184671398	200	10.0	12.0	12.0	11.47
32	fresh-zh-1	6	7	JS	16	full_attention	200	0	200	0.0218641472303716	0.04420311772855712	0.07254370295777335	0.046871714137829486	200	0.007316942419856787	0.015788674354553223	0.05015565417706966	0.022694225640734658	200	1.6588479180249318	4.120520295512728	6.2380292228952285	4.145432773729307	200	0.10367799487655824	0.2575325184695455	0.3898768264309518	0.2590895483580817	200	0.10432844124517657	0.19221927366868563	0.5763515831250512	0.2563242193465016	200	0.2611877284354106	0.3885966051481249	0.77089108764741	0.45008556331872107	200	0.7068351247273077	0.8194089704456659	0.9291147357965708	0.8191980249013184	200	0.9010202346431437	0.953330766846342	0.981680517137843	0.9466400398116648	200	0.003264056999811985	0.009318286972849775	0.022254085990137965	0.011427831522990244	200	3.0	6.0	8.0	6.045
33	fresh-zh-1	6	7	sqrtJS	16	full_attention	200	0	200	0.43271681810729207	0.6038041174178943	0.7724204423837363	0.6074852672725684	200	0.08553836718201638	0.12564750388264656	0.22395427972078322	0.14068200470879674	200	5.5313715726687915	9.05250186330765	11.02686062187503	8.642337837729093	200	0.34571072329179947	0.5657813664567282	0.6891787888671894	0.5401461148580683	200	0.030066917695381033	0.05116493326388823	0.12617347149173305	0.06521773414851664	200	0.15726624767737105	0.20925916539896955	0.3767178850854693	0.23498832827314786	200	0.4891220651431828	0.5739843609213888	0.6664845470243277	0.5781163231024855	200	0.7490316363110263	0.809991048466753	0.8609176690120646	0.8073749254513416	200	0.04298112131965184	0.06218602194312592	0.08717511464006347	0.06344463270935115	200	10.0	11.0	12.0	10.985
34	fresh-zh-1	7	8	Q	8	linear_attention	400	0	400	0.9590097105130553	1.536447413265705	2.8689802177250385	1.7718030927423387	400	0.2201713100075722	0.350384846329689	0.7897801935672762	0.4108072089031339	400	5.887995191027056	6.556289210172601	7.03738792472958	6.483028773113856	400	0.735999398878382	0.8195361512715751	0.8796734905911975	0.810378596639232	400	0.01954077549538053	0.0314575077657065	0.05124239507573904	0.03432354139635862	400	0.19217184731809483	0.22380172267317855	0.285121693929006	0.2321920082524678	400	0.36168901676011517	0.4055534217669472	0.46935854299472085	0.4116085790974441	400	0.6456903072351644	0.6991136955869005	0.7464143915027599	0.6965638856307459	400	0.09023509116070617	0.11262579913286752	0.13680010371064633	0.11273767662286559	400	6.0	7.0	7.0	6.75
35	fresh-zh-1	7	8	K	8	linear_attention	400	0	400	0.2979481376707554	1.323602693155408	2.134860857576132	1.3736332048056648	400	0.056699202582240114	0.2807885557413101	0.4808495283126831	0.29184197531547396	400	6.17633895332198	6.747250638628673	7.182301767760164	6.716318555637633	400	0.7720423691652475	0.8434063298285841	0.8977877209700205	0.8395398194547041	400	0.01626416207323056	0.026524062350611253	0.0421808272578277	0.027959279250897032	400	0.18107303321688972	0.20608203155997337	0.2459019637759514	0.21177290855723657	400	0.3479226112740468	0.3884903159298687	0.445413989857238	0.3921656222076625	400	0.6327225785671413	0.6830521555684579	0.7329194726699658	0.6841702161399162	400	0.09330418100990448	0.11866693654289341	0.14254238060485677	0.11922903165646248	400	6.0	7.0	7.0	6.8625
36	fresh-zh-1	7	8	V	8	linear_attention	400	0	400	0.5749102413654328	1.3443213794380426	2.2224256038665784	1.3652205040352419	400	0.13838060349225997	0.33455508947372437	0.667331808805466	0.37192271476611494	400	4.618268312269324	6.148824305883943	7.047258111244446	6.002404129055444	400	0.5772835390336655	0.7686030382354929	0.8809072639055557	0.7503005161319305	400	0.019313330009964408	0.04300889178036811	0.10460852140022825	0.05208423583689962	400	0.19349817708912645	0.2477619106951734	0.37722684758310093	0.2655965360587777	400	0.36569162040163705	0.43765681207277635	0.5450941761665091	0.44696303511275415	400	0.6460117608640545	0.7203376222935364	0.8038236040088341	0.7252946084484383	400	0.06500499349972674	0.0977581707612199	0.13500608891329802	0.09991695178335462	400	6.0	6.0	7.0	6.4675
37	fresh-zh-1	7	8	QKV	8	linear_attention	400	0	400	0.9274983126670122	1.5033815149217844	2.265283572673798	1.6018475520424544	400	0.20073575228452684	0.34915004670619965	0.5573251724243166	0.36830392001196743	400	5.881230558451355	6.533175768060082	7.0334002379498095	6.50228709856116	400	0.7351538198064194	0.8166469710075103	0.8791750297437262	0.812785887320145	400	0.019632933616512954	0.03207422231802123	0.051465729615420445	0.03381865634780095	400	0.19191701177455783	0.22466129502394616	0.27854774459632486	0.23210277523306297	400	0.36241479805036053	0.4072979515115139	0.4647608255404677	0.4102082544905171	400	0.6531008908578214	0.6955317920204706	0.7449502556564871	0.6982900089685914	400	0.09255299111874246	0.11526921139042773	0.13980834372907236	0.11550857560302565	400	6.0	7.0	7.0	6.805
38	fresh-zh-1	8	9	Q	16	linear_attention	400	0	400	0.6906953494995832	0.9759602006524801	1.3041144616901874	0.9891591147868894	400	0.08369906172156334	0.13099230080842972	0.21312458366155626	0.14000689126551152	400	10.640070932820711	12.624016402558667	13.899533292265506	12.399101890486236	400	0.6650044333012944	0.7890010251599167	0.8687208307665941	0.7749438681553897	400	0.010074521166483894	0.01782839516406866	0.03358329824229189	0.02042438161207624	400	0.10595865367818512	0.13220320037299446	0.18576767336076583	0.1407708642559	400	0.3777364081514151	0.4301187530099717	0.5008169400509738	0.43413663616514425	400	0.6544821006745523	0.7046938314194792	0.7681356332649253	0.7078883740361931	400	0.0767036490911563	0.10572786694471734	0.13498928833778048	0.10654524733371065	400	12.0	13.0	13.0	12.6075
39	fresh-zh-1	8	9	K	16	linear_attention	400	0	400	0.6804344878531993	0.9005166748538613	1.2611991601064803	0.9440281149331713	400	0.08516289219260216	0.11770259588956833	0.1628935605287552	0.12126477730460465	400	11.553123987583536	12.927051575026713	14.10695059168498	12.864031807811653	400	0.722070249223971	0.8079407234391696	0.8816844119803112	0.8040019879882283	400	0.008946183752776801	0.015847639061143302	0.025660532662294917	0.016748542470120687	400	0.10528301606715158	0.1274286612137167	0.15860624460553727	0.1300115002223839	400	0.3701796005108164	0.41601338834864776	0.47160429878421145	0.41986111729636294	400	0.6463018979578277	0.6953485484459442	0.7417257945524633	0.6950382296934545	400	0.08809085513305247	0.1139740629371002	0.14279577639344965	0.1153185605422464	400	12.0	13.0	14.0	12.88
40	fresh-zh-1	8	9	V	16	linear_attention	400	0	400	0.4647453504148871	0.8514449596405029	1.3727117770351471	0.8895953201281372	400	0.06001258864998817	0.11238456517457962	0.19505773931741718	0.12199042475782335	400	11.024187380011924	12.555282564476812	13.99311472157551	12.541131170865151	400	0.6890117112507452	0.7847051602798008	0.8745696700984694	0.783820698179072	400	0.009561299214860333	0.01829093275857004	0.030090276553372184	0.019236171223172657	400	0.10527026377123808	0.13150052741416599	0.17795679687692958	0.1384485005812238	400	0.3726471560437381	0.4287579672288325	0.480353291316335	0.42760517432545087	400	0.6503380799099947	0.7024063546843993	0.7511587142359358	0.7022635946203094	400	0.08064818058038067	0.10735369303982276	0.13772310148465183	0.10868890636633426	400	12.0	13.0	13.0	12.66
41	fresh-zh-1	8	9	QKV	16	linear_attention	400	0	400	0.7347855348140001	0.9900411260314286	1.2494902014732363	0.9919958586548455	400	0.08569022938609124	0.11771636456251144	0.16533384323120118	0.12244859239086509	400	11.713702290469794	13.366565529301592	14.388408040683208	13.194810407005507	400	0.7321063931543621	0.8354103455813495	0.8992755025427005	0.8246756504378442	400	0.007467084877844461	0.013134438286334798	0.02439484120737057	0.014676947362255674	400	0.09843854179026623	0.11848844116881953	0.16178088108267588	0.12455204762435379	400	0.35718058665988645	0.40166317927502393	0.45818110260033357	0.40485099512404354	400	0.6373949780874816	0.6793543264952187	0.7295639099577741	0.6813777219056544	400	0.09487160548480769	0.11917564610599386	0.1468835260329232	0.12028897695944402	400	12.0	13.0	14.0	12.98
42	fresh-zh-1	9	10	Q	16	linear_attention	400	0	400	0.6123335564509035	1.0435317065566778	1.5125911281444133	1.0584334547061007	400	0.09132177904248238	0.1700449287891388	0.31987524628639225	0.1913822599966079	400	8.330971692520261	11.649403297496246	13.425412334713464	11.337067313609955	400	0.5206857307825163	0.7280877060935154	0.8390882709195915	0.7085667071006222	400	0.012784650291930719	0.02489745779476693	0.06136966958039111	0.031073991890478138	400	0.11821138091871673	0.16235856867909693	0.26472613347971885	0.1769987150104201	400	0.39304157101247156	0.46032250596151914	0.5456046701110793	0.46556338315380896	400	0.6634417693869368	0.7173283982910208	0.7769846698882061	0.7202570102649994	400	0.07568759913736456	0.10535935837863662	0.13380928270248182	0.1053257624245752	400	12.0	13.0	13.0	12.58
43	fresh-zh-1	9	10	K	16	linear_attention	400	0	400	0.6221934565342963	0.88918552454561	1.1792654864490035	0.9043257557519246	400	0.08381196409463883	0.13706430047750473	0.21694077700376513	0.1454845827911049	400	9.827882173616375	12.3820462481081	13.798569310550421	12.081156863033502	400	0.6142426358510235	0.7738778905067563	0.8624105819094013	0.7550723039395939	400	0.010636036140978848	0.019479568472037107	0.041868076486150714	0.023512858214741295	400	0.11095983883008902	0.15044731324705274	0.22994426094434903	0.1614972259683926	400	0.38147288457538203	0.433554646378014	0.5006927841623557	0.43708378375953133	400	0.6559676147350192	0.6970414070602557	0.7370198129374841	0.6972230948101901	400	0.09488088237493372	0.11299173709311297	0.13875211719644506	0.11502455500710494	400	12.0	13.0	13.0	12.875
44	fresh-zh-1	9	10	V	16	linear_attention	400	0	400	0.47369214249774816	0.7299782517366111	1.2106899134814741	0.7964116735389689	400	0.06351463720202447	0.11250527203083038	0.24161839336156846	0.13542296192608774	400	9.180543887958322	12.360010938789257	13.952589667740078	11.894512916256883	400	0.5737839929973951	0.7725006836743286	0.8720368542337549	0.7434070572660552	400	0.00978274803270085	0.019633149177695403	0.049521104768380175	0.026415459372986203	400	0.11021547564934674	0.1470128731388507	0.25165570236062357	0.16637191909497456	400	0.3716573275869789	0.4390875760368995	0.5159379185395504	0.4428726164650124	400	0.6495829617174365	0.7000604343000693	0.7579582032394955	0.7015903073592102	400	0.0808565812463129	0.11397830192274325	0.1406547874755669	0.11254211937468542	400	12.0	13.0	13.0	12.77
45	fresh-zh-1	9	10	QKV	16	linear_attention	400	0	400	0.654531497694552	0.9747728491201997	1.2900495495647193	0.9764982675691135	400	0.08734235987067222	0.1456669345498085	0.23176026046276094	0.15643592607229947	400	10.189556966907771	12.572922538627273	14.08108662565195	12.252288871768865	400	0.6368473104317357	0.7858076586642045	0.8800679141032469	0.7657680544855541	400	0.009085069797216454	0.01817173646254427	0.038015776728644736	0.022114843667238367	400	0.10879222365899918	0.14939314066001885	0.22505287597261073	0.15931209065634153	400	0.3715193365667435	0.4242499322184902	0.48985082809961855	0.43016650297444875	400	0.6431422860044751	0.6925475179731045	0.7327877414436106	0.6904168124438282	400	0.09855978110734318	0.1170700936145091	0.14368655431423133	0.1198108417892592	400	12.0	13.0	14.0	12.9925
46	fresh-zh-1	10	11	Q	16	full_attention	200	0	200	0.6438421585597098	0.872416652739048	1.0983223179355264	0.872299394311849	200	0.09125480353832245	0.11970581114292145	0.14658514261245728	0.11973702851682902	200	11.609295715854033	12.717099346353653	13.576108291747113	12.622034448184133	200	0.7255809822408771	0.7948187091471033	0.8485067682341946	0.7888771530115083	200	0.011902770702651415	0.017209941516929887	0.02521372964154654	0.01817272391192884	200	0.11934270921725082	0.1386696549751888	0.1576088519494992	0.13837439252480127	200	0.39571255979610603	0.4290339099297917	0.4744535060326238	0.4344109952622634	200	0.6554351464616354	0.6947435535418892	0.7408203238498978	0.6974609658906215	200	0.08965506465009455	0.11771802752401339	0.1443072155958412	0.11752583125971311	200	12.0	13.0	14.0	12.925
47	fresh-zh-1	10	11	K	16	full_attention	200	0	200	0.7055036302655936	0.8617449305020273	0.9929532202892004	0.8748279941594228	200	0.12480776831507683	0.18543966859579086	0.2604644924402236	0.19279752627015115	200	7.4114578468262104	9.771738678821816	12.293996588675094	9.741479862135373	200	0.46321611542663815	0.6107336674263635	0.7683747867921934	0.6088424913834608	200	0.020097285230125456	0.04249346901007654	0.07725467161321313	0.047791621176838675	200	0.1477751327880865	0.222982705354772	0.29433197182296517	0.2196017917041651	200	0.44604160298719675	0.5294650952945521	0.6140385059195879	0.5265543030929237	200	0.7029335352420754	0.764345885041203	0.80418678509106	0.7548839829935571	200	0.07141042908830074	0.08865212568336756	0.12031691664018135	0.09273965767175764	200	11.0	12.0	13.0	12.26
48	fresh-zh-1	10	11	V	16	full_attention	200	0	200	0.7727446023374797	0.9757196996361017	1.1745961803942917	0.986132373129949	200	0.09506728425621988	0.11816420406103134	0.17792212665081017	0.12691691622138024	200	11.990124619066028	13.203104874705964	14.147263392230133	13.079529608672026	200	0.7493827886916268	0.8251940546691228	0.8842039620143833	0.8174706005420016	200	0.008730832230477678	0.014122440936986825	0.022296483904800397	0.015229241195584086	200	0.10522607325408717	0.12278047010710506	0.15574624628769235	0.12800411431446537	200	0.3752450581506017	0.4060970764309562	0.4595370936555391	0.41101067402953734	200	0.6461414430484381	0.6848193998375264	0.7251867851894941	0.6867201370041193	200	0.10300035509751843	0.12251839269388934	0.14402710472990213	0.12249546665575832	200	13.0	13.0	14.0	13.04
49	fresh-zh-1	10	11	QKV	16	full_attention	200	0	200	0.7646997133269906	0.9415694242343307	1.1005946589633822	0.9381568700482603	200	0.10172526240348816	0.14520113170146942	0.17797999531030656	0.14074353359639644	200	10.556494727505484	12.132287690814861	13.526319939468888	12.102763513736924	200	0.6597809204690928	0.7582679806759288	0.8453949962168055	0.7564227196085578	200	0.012191935409086778	0.021252998106209633	0.034377010706376	0.022337764697260877	200	0.11199920705088734	0.14764846719062247	0.19376761916533158	0.1512855342947202	200	0.3976379062115118	0.4519844618754032	0.5082503153261523	0.4519074543448034	200	0.6643751919368126	0.7095712428180596	0.7495152168943192	0.7102956417116113	200	0.08967173405138439	0.11288960000503676	0.13725722023218334	0.1131325445636444	200	12.0	13.0	13.0	12.845
50	fresh-zh-1	10	11	JS	16	full_attention	200	0	200	0.016045292872877325	0.028061560849891976	0.0557658998943225	0.03360439002613021	200	0.004152655368670821	0.008428643923252821	0.022947734035551545	0.013680369750363752	200	2.6450400622520918	5.813073237536349	8.279876067241618	5.747200074222649	200	0.16531500389075574	0.3633170773460218	0.5174922542026011	0.35920000463891555	200	0.06216054871369186	0.11682778177670528	0.33709448395412145	0.16609993910311552	200	0.20591628311538554	0.3152610044344926	0.5464516179835875	0.352571257796797	200	0.6040428255496345	0.7240077921739443	0.8732768242837106	0.7241230388127226	200	0.8327742613094211	0.8957278587660789	0.9573599228471149	0.8942875428845476	200	0.011515956437173307	0.030337179298580402	0.0555964302539676	0.032318215880978524	200	5.900000000000002	9.0	11.0	8.335
51	fresh-zh-1	10	11	sqrtJS	16	full_attention	200	0	200	0.40895284092985096	0.5534483557567	0.7309623930603266	0.5665644111053553	200	0.0644407406449318	0.09180759266018867	0.15148354917764661	0.10463369278237224	200	7.860647455468036	11.217304580067477	12.886992169252563	10.796342939084912	200	0.49129046596675224	0.7010815362542173	0.8054370105782852	0.674771433692807	200	0.016104150759088904	0.02842451321013062	0.06903769231945556	0.03846723173886477	200	0.1267601433826018	0.16769519761061916	0.27860473981048695	0.18530787381293057	200	0.4231478142339164	0.4907384095410912	0.5951599695983893	0.49822297329287757	200	0.6852193650415406	0.7369754038291347	0.8022838070372944	0.7395950195094779	200	0.07282213999186168	0.1024971813288944	0.13109117593541883	0.10247885237114591	200	11.0	13.0	13.0	12.45
52	fresh-zh-1	11	12	Q	8	linear_attention	400	0	400	0.7112594723701477	1.0567578841000795	1.6549084380269052	1.1336770423408598	400	0.18845413625240326	0.30616503953933716	0.47522892951965334	0.3175508876144886	400	5.477104963346159	6.167510382221616	6.804095606981063	6.136919410117219	400	0.6846381204182699	0.770938797777702	0.8505119508726329	0.7671149262646524	400	0.025108933183938236	0.042445689895851846	0.06580367072889871	0.04475103603953981	400	0.22787424220345726	0.2817419783270949	0.3324606188054017	0.2817903592883699	400	0.39344020228911825	0.438959531659748	0.4919223903308211	0.44102890821117285	400	0.6433718848722331	0.685298774397114	0.7227518653916153	0.6853736661239761	400	0.10090703268802823	0.1250137334582667	0.15025944842985134	0.12518718360010553	400	7.0	7.0	7.0	6.9075
53	fresh-zh-1	11	12	K	8	linear_attention	400	0	400	0.4825267916545272	0.7918677963316441	1.3957195408642293	0.8667944692494348	400	0.115846898406744	0.20595640689134598	0.35331148505210896	0.2251581295207143	400	5.8434520497440365	6.457064459438968	6.942915252569421	6.42405429819099	400	0.7304315062180046	0.807133057429871	0.8678644065711776	0.8030067872738738	400	0.02175053586340759	0.034136159417198164	0.05272197723250966	0.035819034174482886	400	0.21790518103264905	0.2592537366780431	0.3068653932707722	0.26112305044886935	400	0.3829190329466067	0.41960124232959434	0.46804767912562667	0.4226426128686665	400	0.6373128610452358	0.6706433711325317	0.7101707379814962	0.6725711973067371	400	0.1047777385601039	0.13292024787245432	0.15963932834829628	0.1325006599701059	400	7.0	7.0	7.0	6.9225
54	fresh-zh-1	11	12	V	8	linear_attention	400	0	400	0.38287746962159874	0.6756213149055839	1.3400470308959487	0.7780662520381156	400	0.096944247931242	0.17358769476413727	0.38170437216758735	0.21239002059213818	400	5.347247468994016	6.3113622069751845	7.030087510636093	6.269994428450459	400	0.668405933624252	0.7889202758718981	0.8787609388295117	0.7837493035563073	400	0.019709437489822405	0.03822219781231748	0.07087129632330745	0.04145742046065472	400	0.20707489119098008	0.2651902463629251	0.33642074080443696	0.2681936516611965	400	0.37404562197723296	0.4303926733600409	0.49829614935892047	0.4317686004872223	400	0.6381526274537254	0.6841376109522127	0.7322858508963195	0.6842622430361339	400	0.09566515178460988	0.12749238832849555	0.15951941259016467	0.126557255479741	400	6.0	7.0	7.0	6.87
55	fresh-zh-1	11	12	QKV	8	linear_attention	400	0	400	0.627941570058465	0.924285352230072	1.3742050785571336	0.9785891493735835	400	0.16097690761089326	0.2543494999408722	0.3713564544916153	0.263376995883882	400	5.842390607133181	6.363882746730194	6.875659918892965	6.35374740963113	400	0.7302988258916476	0.7954853433412743	0.8594574898616206	0.7942184262038913	400	0.02336066898345175	0.03672774202553174	0.052757711452266154	0.037742441588207824	400	0.22775292520472104	0.2693795954833915	0.31176184783773936	0.2694071747400757	400	0.38766180353829344	0.4247318060379533	0.4674584450265044	0.42593835708836436	400	0.6365551962595403	0.6739642650105429	0.7068103225019726	0.6728856396058228	400	0.10982024019556197	0.13175498010059722	0.15648308683555595	0.13196426261836605	400	7.0	7.0	7.0	6.96
56	fresh-zh-1	12	13	Q	16	linear_attention	400	0	400	0.4287725748727098	0.6291518090292811	0.9183653243817392	0.6602286203455878	400	0.05749732218682766	0.09600819647312164	0.22757867276668553	0.12448112932499499	400	7.43813104642693	12.054362349920932	13.725438264243468	11.388680405982191	400	0.46488319040168313	0.7533976468700583	0.8578398915152168	0.7117925253738869	400	0.011047915290649094	0.021821357200642225	0.07674093058932209	0.032833729328761045	400	0.10895990306851573	0.15395135420424036	0.3031144707562746	0.1778963871899312	400	0.3805769265171659	0.44918117219250897	0.5767905651099959	0.4604233742475648	400	0.6593403165378923	0.7087942087917141	0.7841835646721264	0.715777538836388	400	0.07192378850252647	0.10222048066287616	0.1311494953473219	0.10159369808777655	400	12.0	13.0	13.0	12.4725
57	fresh-zh-1	12	13	K	16	linear_attention	400	0	400	0.3796079422580078	0.5419529881328344	0.7618788884021342	0.5660406191175571	400	0.04488024935126305	0.07666042819619179	0.131016717851162	0.08314666661433875	400	10.67482621767658	12.599542119525275	14.11989090209039	12.47575948850145	400	0.6671766386047863	0.7874713824703297	0.8824931813806494	0.7797349680313406	400	0.008876885840609866	0.017992535572854598	0.033257087895001446	0.020074796585010615	400	0.1032308308909768	0.13959976769114857	0.1941482275072908	0.14532372406218272	400	0.36320403311127286	0.4224121800926574	0.4895725791001946	0.4271854374902489	400	0.635751315318764	0.6901742968222736	0.7499592678652381	0.6925325786849674	400	0.08499378386993076	0.11317662359439792	0.14312498871384305	0.11334308099216585	400	12.0	13.0	13.0	12.7525
58	fresh-zh-1	12	13	V	16	linear_attention	400	0	400	0.33805561484768987	0.4774762666784227	0.692503923829645	0.49688007039774673	400	0.04425990618765354	0.07029108703136444	0.12124188691377644	0.07836978056933731	400	9.334433954331507	12.151683782608224	13.6965244645547	11.846482187869459	400	0.5834021221457192	0.759480236413014	0.8560327790346688	0.7404051367418412	400	0.01121197126399782	0.021112663974228417	0.04760557241782967	0.02550273656352748	400	0.1105578998537858	0.14504039721186468	0.22157384391459353	0.1571277179684568	400	0.3847757296627163	0.442563819587272	0.5456142644678524	0.4534863578946043	400	0.6596884432581905	0.7109339960225283	0.7803934258555302	0.715809932558836	400	0.06898549039660547	0.10243430414267252	0.13183404494659434	0.10127319153323804	400	11.0	13.0	13.0	12.4775
59	fresh-zh-1	12	13	QKV	16	linear_attention	400	0	400	0.46751984632574023	0.6001860462129116	0.7737955089658499	0.6082593854493461	400	0.05605280064046383	0.08463487401604652	0.15578170120716095	0.09744173836894333	400	9.221808462961413	12.772497303026139	14.162725819777252	12.22264222336821	400	0.5763630289350883	0.7982810814391337	0.8851703637360783	0.7639151389605131	400	0.008648406874963287	0.016846141052106793	0.04900140001194352	0.023573000986484353	400	0.1052101933146675	0.13963082995641257	0.2436601676754487	0.15733335208005989	400	0.3595682365847099	0.4199043666711588	0.5212731742804751	0.43222920257873065	400	0.638153783082408	0.6835727865007748	0.7643806054587863	0.6940305720897877	400	0.08098211617503247	0.11552865506524729	0.14210451810033878	0.11326887084730934	400	12.0	13.0	13.0	12.75
60	fresh-zh-1	13	14	Q	16	linear_attention	400	0	400	0.3581819446058944	0.6057678542565554	0.9266265729442241	0.6194080411925097	400	0.05562887825071812	0.10121583938598633	0.16555388420820238	0.10790316329570487	400	8.984764348820594	10.993171368600777	12.804795384360892	10.918961714127299	400	0.5615477718012871	0.6870732105375486	0.8002997115225557	0.6824351071329562	400	0.016635458727710436	0.03036327305184136	0.05205285202134545	0.03328436388755628	400	0.1250005151554404	0.16504284241999867	0.2317043184887997	0.1735018718689452	400	0.4214582738396168	0.48794216702592397	0.5581305760766958	0.48918969051415956	400	0.6920941428310349	0.7540016609510316	0.8118286564254139	0.75251594489739	400	0.05127560458582482	0.08648351968154439	0.12220059621684103	0.0871981589591026	400	11.0	12.0	13.0	11.9875
61	fresh-zh-1	13	14	K	16	linear_attention	400	0	400	0.3721212899079547	0.6305268344003707	0.9718979531899096	0.6449294262027252	400	0.05363687835633755	0.09777480736374855	0.1829571843147278	0.1116250408673659	400	8.98737507106024	11.212097542070406	13.059731885315017	11.083351780568323	400	0.561710941941265	0.7007560963794004	0.8162332428321886	0.6927094862855202	400	0.015009336843665294	0.02846866968756794	0.05201834647142469	0.031837631525605606	400	0.12308597876710539	0.16251156497169478	0.23243101965169033	0.1712443740005486	400	0.4164322115449284	0.48113854088534125	0.5536128445704002	0.48438083221055267	400	0.6837956313094269	0.7472076678467134	0.8051837376370223	0.7453305523637757	400	0.06012654147533741	0.09088036749332673	0.12781760922792534	0.09280544570777137	400	11.0	12.0	13.0	12.175
62	fresh-zh-1	13	14	V	16	linear_attention	400	0	400	0.29954221642110496	0.4848028526175767	0.9077605601400137	0.5606348308987799	400	0.043849870562553406	0.08329145982861519	0.1724206700921059	0.1018496751692146	400	8.601624836963923	10.945460021931986	13.039453404274523	10.85560632719913	400	0.5376015523102452	0.6840912513707491	0.8149658377671577	0.6784753954499456	400	0.015136398331273958	0.030786349912227617	0.05734093585275203	0.03566599715019743	400	0.11954870810478686	0.16362467289990384	0.24502782207819693	0.1769241861836662	400	0.4124458202716032	0.4875960285747094	0.5675203640802442	0.49039862284247	400	0.6847232716758535	0.7569398418201212	0.8156498747113647	0.7524608350138405	400	0.0550192637263923	0.08342689632152683	0.12084799344469732	0.08657916371396172	400	11.0	12.0	13.0	11.9225
63	fresh-zh-1	13	14	QKV	16	linear_attention	400	0	400	0.4210604142397642	0.6132193456869572	0.9099864074960354	0.6461962532845792	400	0.06235298551619053	0.09698081389069557	0.1679705634713173	0.10688274818472564	400	9.559044451771125	11.462648813151414	13.229307283707383	11.372536790697668	400	0.5974402782356953	0.7164155508219634	0.8268317052317115	0.7107835494186042	400	0.013962413468451337	0.026389219655446716	0.044920498319119116	0.02927729497894551	400	0.12302451292251601	0.15709634512624568	0.2172133642117814	0.16492861000588327	400	0.4117132816521857	0.4697141174747012	0.5382139792223727	0.4737089325042268	400	0.6784471857426405	0.7417767439401142	0.7971131902854659	0.7392774549840461	400	0.06311006935352877	0.09444935201900284	0.13123542279990064	0.09541277970078714	400	11.0	12.0	13.0	12.27
64	fresh-zh-1	14	15	Q	16	full_attention	200	0	200	0.6577422137372195	0.9171648286283016	1.1852634995244442	0.9181472365325317	200	0.11345553621649743	0.15000705420970917	0.1810215711593628	0.15020154509693384	200	9.974972828525296	10.98748633023548	12.015739261979009	11.008383435577516	200	0.623435801782831	0.6867178956397175	0.7509837038736881	0.6880239647235947	200	0.022105795807046344	0.03041346995763028	0.040267832978357676	0.030734119759068097	200	0.13690393024083136	0.16355526124714392	0.19754851941285856	0.16622357418701442	200	0.45715092057926165	0.49559856760163823	0.5399387709213074	0.49583705303041015	200	0.7112572552939894	0.7405481171619599	0.7795045856523062	0.7424820054653612	200	0.0671746009092024	0.09349980356859358	0.10992506218390213	0.09149286381927257	200	11.0	12.0	13.0	12.19
65	fresh-zh-1	14	15	K	16	full_attention	200	0	200	0.4558223349275068	0.661193341948092	0.928560869814828	0.6845277983671986	200	0.09089065045118332	0.14050742238759995	0.2652635604143142	0.16330237239599227	200	6.517073625860159	8.448169533418689	10.216135117656798	8.420845466774376	200	0.40731710161625995	0.528010595838668	0.6385084448535499	0.5263028416733985	200	0.037743533953733324	0.059597051779429054	0.09700626283126307	0.06391106362676019	200	0.16545158667610715	0.21786337825417829	0.3109351348229441	0.23088798633735585	200	0.5273401415002065	0.5891054982550972	0.670537313858403	0.5982072906277595	200	0.7789887782313337	0.8273318255285389	0.867367099825448	0.826735536039555	200	0.03556134799369811	0.05069459324987072	0.06732191690401192	0.05158814468967845	200	10.0	11.0	11.099999999999994	10.54
66	fresh-zh-1	14	15	V	16	full_attention	200	0	200	0.39862508603837343	0.553866085014306	0.8149181741755454	0.5910873380908742	200	0.07487345486879349	0.1185121051967144	0.26099399924278255	0.1435592506825924	200	6.23539240573393	8.575625033151486	10.542810464490822	8.593766850785837	200	0.38971202535837063	0.5359765645719679	0.6589256540306764	0.5371104281741148	200	0.03452489179458992	0.05771847128863582	0.10441198167052927	0.06257753538089733	200	0.17394930222282973	0.22248368839866833	0.3403276449735198	0.23622923989761208	200	0.5139030605907748	0.5745139919281239	0.6391214979272684	0.5741994356844878	200	0.7497449375485372	0.7985724668806748	0.8343295262531546	0.7939948756911482	200	0.047876148136253904	0.06173908973538601	0.09238906906297285	0.06512158069667205	200	11.0	11.0	12.0	11.26
67	fresh-zh-1	14	15	QKV	16	full_attention	200	0	200	0.6458288012538105	0.7748749549500644	0.9652682330459356	0.7980924565205351	200	0.11018678247928619	0.13081123679876328	0.18139647394418718	0.14203495394438506	200	8.73400421523041	10.246712388513933	11.44923822507546	10.193826057069092	200	0.5458752634519006	0.6404195242821208	0.7155773890672162	0.6371141285668183	200	0.02649819570006886	0.03743176517140752	0.05546138875430876	0.03928103644010278	200	0.1449581241047069	0.17280844858768796	0.22752581143256917	0.179581028414308	200	0.47710706891360144	0.5362226771385954	0.5856630329020351	0.531838099732763	200	0.7295533715428937	0.7722563931895174	0.8144699553256052	0.7730578378245819	200	0.05475231118994709	0.07820279139223463	0.09810128173046476	0.0765137326843442	200	11.0	12.0	12.0	11.695
68	fresh-zh-1	14	15	JS	16	full_attention	200	0	200	0.019945300565086654	0.03742143244858198	0.06954158965454553	0.04249801874332888	200	0.006600805884227156	0.013597384095191956	0.0299729011952877	0.01775519482791424	200	2.723727922639179	4.419071740960671	6.453804065895095	4.506546875024986	200	0.1702329951649487	0.27619198381004195	0.4033627541184434	0.2816591796890616	200	0.09861066336700716	0.17471540683448422	0.3249596363003885	0.19923313577665447	200	0.25891546649056973	0.36224561549091905	0.5691559297756097	0.3955265302614648	200	0.6979655399278633	0.8148032333471716	0.9034887493058987	0.802466854880239	200	0.9009231053331983	0.948978783177368	0.9757591574499868	0.9435997776413383	200	0.005237995813748987	0.012665228570550776	0.02465008873120709	0.014240310710541213	200	4.0	6.0	8.0	6.415
69	fresh-zh-1	14	15	sqrtJS	16	full_attention	200	0	200	0.43292285297065974	0.5795048493891954	0.8028445993550122	0.598374522572849	200	0.08124532625079155	0.11660745367407799	0.17312516421079635	0.1251748430915177	200	7.27187131575747	9.280908514420442	11.168043529324263	9.19956206262213	200	0.45449195723484187	0.5800567821512777	0.6980027205827665	0.5749726289138831	200	0.028844266270079803	0.04826461737077646	0.08001845356029015	0.052541086242545665	200	0.1521058685250012	0.20071546433315057	0.2787634172105522	0.20895935456315512	200	0.48676783085182757	0.5606942171838359	0.6427062218665469	0.5640766258320425	200	0.7445924303680195	0.799933686349982	0.850776678718176	0.7998207023229159	200	0.04972880916576016	0.07123257799778379	0.09336855652866997	0.07216344075869018	200	10.0	11.0	12.0	11.335
70	fresh-zh-1	15	16	Q	8	linear_attention	400	0	400	0.19986069407314064	0.46389445289969444	0.8956709902733565	0.5090842917381088	400	0.04299015626311302	0.10527447238564491	0.2599944949150086	0.12798810095293447	400	5.834645955809603	6.856790631430793	7.407216043831221	6.73552036533139	400	0.7293307444762004	0.8570988289288491	0.9259020054789027	0.8419400456664238	400	0.011432559850753476	0.023818087522427103	0.053017618729649545	0.028307218148329493	400	0.18324670830013334	0.22686992103152165	0.31176969445782493	0.2387361114995067	400	0.3449582984207271	0.3928509719419186	0.4596047972057098	0.39629894065743654	400	0.6058274989044762	0.6498933257271503	0.6973570857052434	0.6514275959246021	400	0.12112850999103765	0.14790487657338322	0.17462526367807285	0.14802789306899325	400	7.0	7.0	7.0	6.995
71	fresh-zh-1	15	16	K	8	linear_attention	400	0	400	0.2865625012665987	0.46163270249962807	0.7159958682954312	0.48214415930677207	400	0.05249631702899933	0.09312321618199348	0.1700477421283722	0.10407672118395567	400	6.513632666676123	7.123124686724383	7.498416961966744	7.058480003951019	400	0.8142040833345153	0.8903905858405479	0.937302120245843	0.8823100004938774	400	0.009555980058244042	0.01758609900382032	0.03259904318889367	0.019555700837432296	400	0.17557890438178544	0.2085092995367986	0.2516834065681224	0.21139714156376396	400	0.33537148359147667	0.37606616382062896	0.42800448153384124	0.3787479168038449	400	0.6022690095489	0.6364912429900353	0.6810532471069338	0.6387765209735242	400	0.12892438858843056	0.15751327181530345	0.1825052865260191	0.156796619122968	400	7.0	7.0	7.0	7.0025
72	fresh-zh-1	15	16	V	8	linear_attention	400	0	400	0.3101591121405363	0.414548727683723	0.6638900108635426	0.4536746086040512	400	0.062248042225837706	0.08890051767230034	0.1481402471661568	0.09876976327970624	400	6.375527351263597	6.946734358280413	7.392494910423758	6.901467936472129	400	0.7969409189079496	0.8683417947850516	0.9240618638029697	0.8626834920590162	400	0.011739804231719175	0.021660037320278387	0.0363999217804117	0.023460530141269996	400	0.1773245538495785	0.21211547276437873	0.25762269090809325	0.21560968323067572	400	0.34178296020310805	0.3867883582709063	0.4354503137200121	0.38860321891175004	400	0.6159145676009288	0.6565733808317405	0.6972125027654101	0.6558877640936979	400	0.10916973944482057	0.1414943598450648	0.1716854432779864	0.14130149071505607	400	7.0	7.0	7.0	6.96
73	fresh-zh-1	15	16	QKV	8	linear_attention	400	0	400	0.3314094701781869	0.4764906894415617	0.7405438203364613	0.5044400906306692	400	0.0644989974796772	0.0975835919380188	0.19508592635393146	0.11217128470540047	400	6.461353840637956	7.098616509554886	7.474204052423043	7.030282980550095	400	0.8076692300797444	0.8873270636943608	0.9342755065528804	0.8787853725687619	400	0.010049726857083547	0.01814002479521407	0.03401873707408182	0.02020727729036347	400	0.17998469835815162	0.21026860057469182	0.2675367136732707	0.21648070657757884	400	0.3397267825731491	0.3770363418833491	0.4256815960359429	0.3793530208424864	400	0.6027215378027868	0.6376038756387015	0.6753351810058252	0.6385888219285999	400	0.13112802890263664	0.15820078198535004	0.1813363088607309	0.15757380853151823	400	7.0	7.0	7.0	7.0075
74	fresh-zh-1	16	17	Q	16	linear_attention	400	0	400	0.08711719287675807	0.2994851019466296	0.573016984621063	0.32165666329921805	400	0.01310598086565733	0.04576076939702034	0.09498987272381783	0.05223502334440127	400	9.583010174830612	11.840225729216735	13.324799122374221	11.582809323374299	400	0.5989381359269133	0.740014108076046	0.8327999451483888	0.7239255827108937	400	0.013384581465064207	0.02342176432204445	0.04464143732069111	0.02759057673775662	400	0.11746223739112596	0.15123771411546127	0.21382206660995698	0.1620249147955738	400	0.4028018966273583	0.45963470146711133	0.5354911437966935	0.464178923219749	400	0.676133827954727	0.7253601585712695	0.7811042705078216	0.726551221455319	400	0.07287342136913855	0.09538573412747754	0.12436979498279221	0.09748222541172494	400	12.0	12.0	13.0	12.3775
75	fresh-zh-1	16	17	K	16	linear_attention	400	0	400	0.3286965986713767	0.4223298658616841	0.5934893887024373	0.4472175025119213	400	0.04229480139911175	0.059895411133766174	0.09417680427432061	0.06480434986762702	400	10.693028184724891	12.383167510963343	13.468265855749474	12.219783722162196	400	0.6683142615453057	0.7739479694352089	0.8417666159843421	0.7637364826351373	400	0.01253184928229949	0.019471808687132178	0.033086804079425956	0.0214448347101134	400	0.11219071860921055	0.13757776612288575	0.18140014587027972	0.14428989032577394	400	0.395864530231225	0.4362149194990499	0.49761317840940616	0.4428913856845753	400	0.6670044234864881	0.7081641271470507	0.7580535919767092	0.7106260600031876	400	0.08218487972765465	0.10538948020512309	0.12561972850394257	0.1048475434681044	400	12.0	13.0	13.0	12.6175
76	fresh-zh-1	16	17	V	16	linear_attention	400	0	400	0.29818206932395697	0.4106921355705708	0.5565018072258681	0.4215392938845616	400	0.04070471748709679	0.060807785019278526	0.1028570704162121	0.06672028207220138	400	9.495061325427482	11.908249339816994	13.223724295115607	11.602071430960843	400	0.5934413328392176	0.7442655837385621	0.8264827684447255	0.7251294644350527	400	0.013996491102012917	0.02290709493773848	0.04567249861168296	0.027394742466076868	400	0.11745855227098129	0.14527100560214212	0.2092226785607464	0.15740708318409813	400	0.40185889257705854	0.4532001243796322	0.5424797312566577	0.4635072268078833	400	0.6805855945888534	0.7287748652829271	0.7975287519249424	0.7326277210266369	400	0.062150436505154893	0.09350211957618837	0.11988088587616197	0.09243153804781819	400	11.0	12.0	13.0	12.15
77	fresh-zh-1	16	17	QKV	16	linear_attention	400	0	400	0.3224775362992659	0.4170524077489972	0.5280065821483731	0.4254810506635113	400	0.040970437973737714	0.05731347016990185	0.08391455858945848	0.06086966967675835	400	10.81968177679432	12.499710611648208	13.58935020530476	12.351658313483842	400	0.676230111049645	0.781231913228013	0.8493343878315475	0.7719786445927401	400	0.01182617386760729	0.018668643309448833	0.03191910415011717	0.020449086487372106	400	0.11375288267718857	0.1369316621200216	0.17717501161571683	0.14239705159185362	400	0.392013385518266	0.4328109726063489	0.49936021500857736	0.4394045587806595	400	0.6618637501543095	0.7042037534592438	0.7559459674777604	0.7069288615362622	400	0.08320365562586786	0.10744502171180498	0.12997793867890256	0.10696707120563684	400	12.0	13.0	13.0	12.6625
78	fresh-zh-1	17	18	Q	16	linear_attention	400	0	400	0.11444642521673815	0.3289668773068115	0.5647181982640177	0.33337109683678134	400	0.026945790834724904	0.08264965564012527	0.15005922019481663	0.08756069282535464	400	6.0035884150547645	8.928508890559545	10.900737928029212	8.710076795183792	400	0.3752242759409228	0.5580318056599716	0.6812961205018258	0.544379799698987	400	0.031186073629575987	0.052800931177753765	0.11100488581622223	0.06240130384823678	400	0.19199674732986152	0.2490011326242375	0.35883630646701725	0.26310991506586956	400	0.4648490098961464	0.5222855178204693	0.6303564401796478	0.5348779070117441	400	0.7040174974946337	0.7523774476737031	0.8174405510976654	0.7571019525652098	400	0.06628559825730737	0.0912277696545262	0.11763073004175559	0.09082397585155792	400	11.0	12.0	13.0	12.1125
79	fresh-zh-1	17	18	K	16	linear_attention	400	0	400	0.17144957436248662	0.30153246014378965	0.42404144285246737	0.3016565287492995	400	0.04597516842186451	0.07409296557307243	0.11804260313510895	0.0783864412875846	400	6.973458341860775	8.69440343611236	10.544563287056361	8.746841117647467	400	0.43584114636629845	0.5434002147570225	0.6590352054410226	0.5466775698529667	400	0.03449132513227807	0.05601762435137562	0.08629459024746584	0.058470424258631054	400	0.20356528501763435	0.26047895141792266	0.32190310711945586	0.2613304243990743	400	0.46886155012263386	0.5267360414592067	0.583467152958784	0.5270573806988736	400	0.7088489808026993	0.7506739046228881	0.7933182284989547	0.7516857318751735	400	0.07120798454805734	0.0951264081130174	0.11640304984400103	0.09463269199708506	400	11.0	12.0	13.0	12.28
80	fresh-zh-1	17	18	V	16	linear_attention	400	0	400	0.2788433980429545	0.35655369400046766	0.4507291147019714	0.3619566791538091	400	0.09207431375980377	0.12409733980894089	0.15486080795526505	0.12325305098667741	400	4.566530384065741	6.346931722783292	8.782143948968194	6.484276544655219	400	0.2854081490041088	0.3966832326739558	0.5488839968105121	0.4052672840409512	400	0.054791907387735136	0.10139368017053182	0.1669172264480259	0.10758896086343032	400	0.25107537815491116	0.3429291069978044	0.436681824149149	0.34396526911239717	400	0.5269692736723254	0.6064357640901277	0.6624302106970968	0.6007640487598719	400	0.7461469042457075	0.7982054779231895	0.8417465189807074	0.7964446593033108	400	0.05434727123603426	0.07718751395880855	0.1006514460061799	0.07714848203318231	400	10.0	12.0	13.0	11.5475
81	fresh-zh-1	17	18	QKV	16	linear_attention	400	0	400	0.26694579506292937	0.34472838416695595	0.4579548066481948	0.3541167849037447	400	0.07474510371685028	0.1006401963531971	0.13284760862588885	0.10233625747263432	400	6.255063007101469	7.863978606112392	9.494918795352538	7.87329112497948	400	0.3909414379438418	0.4914986628820245	0.5934324247095336	0.4920806953112175	400	0.045674142425202666	0.06897302143369652	0.10386185808151428	0.07241407563426625	400	0.23578694193978422	0.28736456120209564	0.34897081549834713	0.29107630782158267	400	0.4947031268324942	0.5495153297628259	0.6052951389501732	0.550273656553461	400	0.7241112361876384	0.7646267173108904	0.8049597108393459	0.7649382838899986	400	0.06931587054786616	0.08962916571450098	0.10955993811315815	0.08957083073094946	400	11.0	12.0	13.0	12.1325
82	fresh-zh-1	18	19	Q	16	full_attention	200	0	200	0.40186612848192454	0.4660476525314152	0.5630262769758702	0.47487199571914973	200	0.0650772623717785	0.07989485561847687	0.10173414945602416	0.08234241669997573	200	10.12810645809385	11.601534563597166	12.725747312893004	11.523018809154651	200	0.6330066536308656	0.7250959102248229	0.7953592070558128	0.7201886755721657	200	0.017152903726017504	0.025275235926569224	0.038651569538112475	0.02658703160192312	200	0.14592901287507962	0.17147407737309045	0.20097218725826207	0.17335960590672828	200	0.42176770824454984	0.46316859440634306	0.5390721155220035	0.47015618742144694	200	0.6737976394302598	0.7086594320210411	0.7619974861112238	0.711631283654674	200	0.08894774717197554	0.11645042191684796	0.14417352219169513	0.1170132078824728	200	12.0	13.0	14.0	12.95
83	fresh-zh-1	18	19	K	16	full_attention	200	0	200	0.2383557878434658	0.2800897735869512	0.40347801889292895	0.2980342358537018	200	0.04454663395881653	0.05757962539792061	0.11347527503967285	0.0688006903231144	200	6.659188448098644	9.619182260087715	11.000871731631374	9.0697628004	200	0.41619927800616524	0.6011988912554822	0.6875544832269609	0.566860175025	200	0.030295354552186994	0.044225163876059265	0.09360747781267274	0.05872871124822177	200	0.16919428711946752	0.20354627502050726	0.3202322395846846	0.23121901800390596	200	0.500888998929547	0.5510143276679249	0.6311179375958716	0.5598069054867643	200	0.7390084871905289	0.7650663769812541	0.808768243324379	0.7697533244238843	200	0.07626054912607459	0.08974869381532198	0.10836103910293753	0.09102594870166897	200	11.900000000000002	12.0	13.0	12.14
84	fresh-zh-1	18	19	V	16	full_attention	200	0	200	0.2105618339497596	0.26664538076147437	0.6062462885864074	0.32882167091127484	200	0.04057726487517357	0.05638102628290653	0.10011147707700728	0.06374377176165581	200	9.063332882979116	11.018012659841542	12.614013817346505	10.955583720142782	200	0.5664583051861948	0.6886257912400964	0.7883758635841566	0.6847239825089239	200	0.01789635619778122	0.03014528509096625	0.05102403166496306	0.032138560554408696	200	0.15899317303284274	0.1984824956334712	0.2525142685702805	0.20128350024205993	200	0.4243098691093764	0.46811114039326907	0.5247275695931488	0.468130859348047	200	0.6536294591357411	0.6966165360412374	0.7344836899959832	0.6957549332645888	200	0.10778337214586695	0.12635339778205795	0.15696974957914428	0.12776715023867793	200	13.0	13.0	14.0	13.2
85	fresh-zh-1	18	19	QKV	16	full_attention	200	0	200	0.3160225347615778	0.37049319688230753	0.5122994367033243	0.3931979568884708	200	0.05125492662191391	0.06661264598369598	0.09244697988033293	0.06970386667177081	200	10.207788622643587	11.45153724767245	12.62791443689083	11.39239019619744	200	0.6379867889152242	0.7157210779795281	0.7892446523056769	0.71202438726234	200	0.017802356626204725	0.02647952857663271	0.037828739337075895	0.027571846487599604	200	0.14179378283656605	0.1789277489871398	0.20475874522368429	0.17752368670248805	200	0.42932173162525245	0.468638335677255	0.5210576323533085	0.4737948927943687	200	0.6715027907704788	0.7155576126236289	0.7461306792649463	0.7130189220379008	200	0.09833837692914749	0.11557345949284488	0.13936113192895164	0.11688660634552829	200	12.0	13.0	13.099999999999994	12.98
86	fresh-zh-1	18	19	JS	16	full_attention	200	0	200	0.007393096410646649	0.012181064067817715	0.018965315184050268	0.012800878722067068	200	0.003304202063009143	0.007077381014823914	0.012031846866011619	0.007414750217576511	200	1.8131037119282571	2.5861945507183703	3.8056885226410704	2.773240141124483	200	0.11331898199551607	0.16163715941989815	0.2378555326650669	0.1733275088202802	200	0.21362110907349677	0.3457801242352132	0.5216823690293247	0.35375158226090586	200	0.39054159599782057	0.5554795386289151	0.7298192826476227	0.5607862203853119	200	0.8382733198357065	0.9014582827651687	0.9417105610582329	0.8940616955368718	200	0.9446463243627984	0.9674112908715309	0.9823178519511492	0.964551388545188	200	0.004339754926425057	0.007983271427843467	0.013694931597522919	0.008508104633810631	200	3.0	4.0	6.0	4.64
87	fresh-zh-1	18	19	sqrtJS	16	full_attention	200	0	200	0.24335797766689213	0.29331015225034207	0.3536794791696593	0.29521937190263997	200	0.05748218968510628	0.08412716910243034	0.10968977808952332	0.08364754555746913	200	5.711247110272558	7.024246621721719	8.823026151557187	7.196968633935012	200	0.3569529443920349	0.43901541385760745	0.5514391344723242	0.44981053962093825	200	0.054229127537616	0.08518829188617832	0.12009932598436433	0.08591510904237093	200	0.2150525931638637	0.2828655296956779	0.3538350878800364	0.28249004018624446	200	0.5713467217876544	0.6286265816374231	0.6790948191973873	0.6282328187848598	200	0.788729863215255	0.8190756238169092	0.8500392600289038	0.8184562214453764	200	0.0516866276508774	0.06341780080102401	0.07863042920113657	0.06433900282961363	200	10.0	11.0	12.0	11.0
88	fresh-zh-1	19	20	Q	8	linear_attention	400	0	400	0.15525705595500766	0.3394973468966782	0.6571132013574245	0.3765427278200514	400	0.04618050307035446	0.09498502314090729	0.2521578311920167	0.12125425999984145	400	3.9186470605530057	5.544321493315213	6.539376941055835	5.442544432059326	400	0.4898308825691257	0.6930401866644016	0.8174221176319794	0.6803180540074157	400	0.031908305681334834	0.06327399320957156	0.14878890452186816	0.07481138653408684	400	0.23105027707205306	0.296195527567483	0.4293521309738975	0.3097218065751807	400	0.41221028593805686	0.47955417790287896	0.6106232802894005	0.49487810267112964	400	0.690652918222389	0.7580765843999429	0.8385641110030124	0.7615882490962289	400	0.04741852897855421	0.0849469426155012	0.11846163443323997	0.08455097397071672	400	5.0	6.0	7.0	6.16
89	fresh-zh-1	19	20	K	8	linear_attention	400	0	400	0.2675408917479217	0.3827636414207518	0.6346319142729044	0.4226680134201888	400	0.0657367616891861	0.1260973885655403	0.24239765256643298	0.13847129544243217	400	4.167757318121759	5.298839034982416	6.479710135864358	5.307034668169767	400	0.5209696647652199	0.662354879372802	0.8099637669830447	0.6633793335212209	400	0.03351759089842679	0.0728235627895297	0.1313568212441941	0.07894804102788361	400	0.2200209713108122	0.31088624049972713	0.41728173071230773	0.3157428005653104	400	0.4095813956147669	0.5005013303139483	0.5839266861723282	0.4984212081315583	400	0.7062365762020371	0.777583468507881	0.8367804181475219	0.7739838892164036	400	0.052986015112582226	0.07733663049086614	0.11218255577304988	0.08043071935381756	400	6.0	6.0	7.0	6.105
90	fresh-zh-1	19	20	V	8	linear_attention	400	0	400	0.2774194669444114	0.36462423647753894	0.5320786954835058	0.38472252163453957	400	0.0807145245373249	0.10361829400062561	0.14211224466562272	0.10949894278310239	400	4.7007518590285855	5.4682866211277705	6.285478487002955	5.484944301562345	400	0.5875939823785732	0.6835358276409713	0.7856848108753693	0.6856180376952932	400	0.038967917005168114	0.06614016003006074	0.10026506092248094	0.06847465666403775	400	0.23000650050593804	0.27872310557779834	0.3504997719943814	0.28806588638896147	400	0.433386446056023	0.49836376683005823	0.5636916956406838	0.4961686099239049	400	0.7065554738300994	0.7747459772120875	0.8241917384706339	0.771155672700703	400	0.053060863002019315	0.08009137903232538	0.11597468426977454	0.08279114099653687	400	6.0	6.0	7.0	6.1675
91	fresh-zh-1	19	20	QKV	8	linear_attention	400	0	400	0.29529009452089666	0.40087789110839367	0.5732318122871221	0.41862270907731725	400	0.08025466576218605	0.11346953362226486	0.20841896235942844	0.13092674260027706	400	4.446845475571162	5.488597445848338	6.3884772953095	5.437088566588267	400	0.5558556844463952	0.6860746807310423	0.7985596619136875	0.6796360708235334	400	0.03603647820786743	0.06536688384837219	0.1141468734730059	0.0719203431196204	400	0.23886409419423785	0.2982476099626413	0.3924174480819068	0.30625292162201306	400	0.425356881747965	0.49118959834060877	0.570381516538761	0.4951553398055028	400	0.7006763525417299	0.7691835719259329	0.8289667192633471	0.767764499128189	400	0.057491969063298315	0.08305301189599479	0.11418334940728253	0.08372321816680739	400	6.0	6.0	7.0	6.1425
92	fresh-zh-1	20	21	Q	16	linear_attention	400	0	400	0.09100260541308672	0.1578803969314322	0.47679477347992394	0.21357492956944044	400	0.013946398627012968	0.0253577483817935	0.09228626117110254	0.038190908087417486	400	9.669408779086732	11.415225398347491	12.73911800259806	11.269053017692489	400	0.6043380486929207	0.7134515873967182	0.7961948751623787	0.7043158136057805	400	0.017064928782645285	0.026775793622037178	0.043646979492003656	0.029352397961489664	400	0.13165795663444885	0.16089411479034343	0.21621911319216935	0.1687203318248561	400	0.4244900924599479	0.4785433290639434	0.5435475391333369	0.48244030229373797	400	0.6891106183362785	0.7271872743655241	0.7826357888469359	0.7329405217535465	400	0.07527590514952104	0.10159258586743489	0.12333446763120781	0.10071467690465907	400	12.0	13.0	13.0	12.4725
93	fresh-zh-1	20	21	K	16	linear_attention	400	0	400	0.16491668410599233	0.30600598198361695	0.41316689671948553	0.31079191313765475	400	0.02744064182043076	0.051021795719861984	0.07823709771037102	0.05460934706497937	400	9.020126109399264	11.148648245596211	12.396907423978336	10.890723514007611	400	0.563757881837454	0.6967905153497632	0.774806713998646	0.6806702196254757	400	0.019376325175393984	0.0290101052022511	0.05158780053782289	0.03347859885421094	400	0.13250327659397218	0.16390620321480015	0.24047471914384613	0.1774524418725001	400	0.4426878812478206	0.49426622642259455	0.5536032459377827	0.4962049015508903	400	0.7019534765744023	0.7371161884786097	0.7748532936346252	0.737450143719988	400	0.08177054256171805	0.100617967890347	0.11922358240559534	0.10029121070242926	400	12.0	13.0	13.0	12.4925
94	fresh-zh-1	20	21	V	16	linear_attention	400	0	400	0.22574676314834505	0.30166250735055655	0.448491025576368	0.32166607168008343	400	0.03758852705359459	0.055542927235364914	0.10080730840563774	0.06360128117259592	400	7.279698708674357	10.685878426636492	12.512606164122632	10.26985391428973	400	0.4549811692921473	0.6678674016647808	0.7820378852576645	0.6418658696431081	400	0.018580699273323027	0.033153549076843286	0.07986051152476253	0.04224451734680011	400	0.1387595197298212	0.18047811741841496	0.2993860884823669	0.19764674845668595	400	0.43731306360086736	0.5060429621407943	0.6030909455895996	0.5146613164609688	400	0.7004034266372262	0.7476760187316618	0.802937517172612	0.7495566218730425	400	0.06760458271448931	0.09325404642082735	0.11711260865480333	0.09247357440744867	400	11.0	12.0	13.0	12.205
95	fresh-zh-1	20	21	QKV	16	linear_attention	400	0	400	0.21518497793003916	0.28149201755877584	0.41662318254821007	0.3026864863996161	400	0.037530127167701724	0.05159826576709747	0.08380187228322031	0.056122346417978405	400	8.578341197215607	10.74834736709455	12.49694583917458	10.63620047415439	400	0.5361463248259755	0.6717717104434093	0.7810591149484113	0.6647625296346493	400	0.01868752153110747	0.03257339644350163	0.05767749774725549	0.03574639009449255	400	0.1381482033714521	0.17714372896328257	0.2574492118931321	0.18849974620724885	400	0.4419836057510083	0.5033089776957218	0.559189490797357	0.5017523334597588	400	0.7010759845319436	0.737958688161038	0.7742489859483731	0.7385488075890002	400	0.08046029679321556	0.09913061480170313	0.11849481028389905	0.0992009448967302	400	12.0	12.0	13.0	12.465
96	fresh-zh-1	21	22	Q	16	linear_attention	400	0	400	0.0638073873706162	0.15770221455022693	0.3229407866485417	0.17402296393411235	400	0.00827278159558773	0.020439019426703453	0.05504508726298809	0.030880103794625028	400	10.956545395669451	13.009093934470757	14.146357049170428	12.553184850616509	400	0.6847840872293407	0.8130683709044223	0.8841473155731517	0.7845740531635318	400	0.008735550152923651	0.015327467139166084	0.03068794874960493	0.022075422490765037	400	0.1103447908992042	0.1377652289869727	0.19578295029911008	0.15332308972371	400	0.37227052823390233	0.4192664246088049	0.48966976594113054	0.42861407325127365	400	0.6317030284209187	0.6776187750204767	0.7301179426123745	0.6820589771341953	400	0.10099390697790879	0.1268696856947495	0.15536662207298013	0.12783967131998378	400	13.0	13.0	14.0	13.1375
97	fresh-zh-1	21	22	K	16	linear_attention	400	0	400	0.09741592470090837	0.21235808753408492	0.33288378436118365	0.21420880685123847	400	0.014754499867558482	0.028414766304194927	0.04797113463282587	0.030325422501191496	400	11.277069871004235	13.054859308406666	14.179173104085924	12.874476857178797	400	0.7048168669377647	0.8159287067754166	0.8861983190053703	0.8046548035736748	400	0.0085610426039156	0.015039831361483035	0.02792068290852134	0.016884931462583762	400	0.10611469307035479	0.14159071334269058	0.19275314545378658	0.14519345661898928	400	0.3707465013911077	0.41039248686792795	0.46615928867570466	0.415185903909173	400	0.6374763132555936	0.6724219935445845	0.7138607505386906	0.6745149800677268	400	0.10904332055266763	0.13059542805893948	0.1530590140265871	0.13054673841616418	400	13.0	13.0	14.0	13.235
98	fresh-zh-1	21	22	V	16	linear_attention	400	0	400	0.13401092891581357	0.1944151925854385	0.31463873228058226	0.2110497849449166	400	0.017851484939455986	0.030416744761168957	0.05377412773668766	0.03353422887157649	400	9.019782820844243	12.831819279487862	13.98700610826198	12.223251618279864	400	0.5637364263027652	0.8019887049679914	0.8741878817663737	0.7639532261424915	400	0.009594590783200348	0.016460024775304644	0.051591986613178355	0.024231169072713613	400	0.11298294130091135	0.14360079074992677	0.2599274339240808	0.1634574645587918	400	0.3753465582658847	0.4227827968976451	0.5114027864098041	0.4340739866154702	400	0.6420315240429671	0.6826627550401714	0.7386390454552453	0.6853793198154758	400	0.10166157257753133	0.12752871192834653	0.14951535898715418	0.12694117917653777	400	13.0	13.0	14.0	13.1525
99	fresh-zh-1	21	22	QKV	16	linear_attention	400	0	400	0.1325829988112673	0.209606354823336	0.2849590593017638	0.2128292384831002	400	0.018658262863755225	0.029178920201957226	0.04782337360084058	0.03356043431442231	400	10.755941306123653	12.985362229166007	14.109065675052369	12.639862789920217	400	0.6722463316327283	0.8115851393228755	0.881816604690773	0.7899914243700136	400	0.008934854082441372	0.015477107845314886	0.032503459699744705	0.019509789353500794	400	0.10981471305764977	0.14379035327591175	0.21108071221739746	0.1537745280956764	400	0.3727250764172539	0.4157947406682161	0.4789287918367615	0.4210803922181682	400	0.6348954132432477	0.6751433278233427	0.7157782995894862	0.675016521542984	400	0.11033907564139822	0.1321006207445523	0.15223692759961058	0.1316575972431657	400	13.0	13.0	14.0	13.2275
100	fresh-zh-1	22	23	Q	16	full_attention	200	0	200	0.3026728035882115	0.37655932281631976	0.46557707500178364	0.3813775059761247	200	0.04963986799120903	0.0744844377040863	0.12148832082748412	0.07976769370958209	200	8.158460086767704	9.68046214852427	11.099525128742243	9.653566909599014	200	0.5099037554229815	0.6050288842827669	0.6937203205463902	0.6033479318499384	200	0.029433813967526593	0.043520912202843494	0.06408177446837236	0.0460129208423802	200	0.15447485364824012	0.19627197084865178	0.2737614323565545	0.20513040499060614	200	0.48598316241886763	0.5392094267902581	0.5846335035116358	0.5344260250513373	200	0.7474379347931019	0.7802175695463072	0.8053826026015454	0.7768267640960187	200	0.06112540760596603	0.07497044494860407	0.09211129176370675	0.07563308191429308	200	11.0	12.0	12.0	11.69
101	fresh-zh-1	22	23	K	16	full_attention	200	0	200	0.28945007940055806	0.36516114440746605	0.48591423322213806	0.3753078854223713	200	0.07137070298194886	0.12555516883730888	0.15731682032346725	0.12020358331501484	200	5.059222337631255	6.533838025570682	8.445334108931446	6.731609824608861	200	0.3162013961019534	0.4083648765981676	0.5278333818082154	0.4207256140380538	200	0.05964055496211359	0.09658723733189026	0.14416951786206372	0.09757853452436181	200	0.22990450380723995	0.3263121331322245	0.4043384709146647	0.3189793342842524	200	0.5805636112578474	0.6106102178790714	0.6557902952821408	0.6143969532199712	200	0.7985027454923859	0.8203908734288934	0.846657177240993	0.8196459190867469	200	0.04985520469823094	0.057907431236357276	0.06828933856993738	0.05885155268220192	200	10.0	11.0	11.0	10.88
102	fresh-zh-1	22	23	V	16	full_attention	200	0	200	0.19312360133044423	0.246892538969405	0.36598558727419	0.27202045162790456	200	0.043266743421554565	0.07038240879774094	0.17390640228986737	0.09952279672026634	200	3.471213997602875	6.172750443539957	8.14999768688345	5.965572739446648	200	0.2169508748501797	0.38579690272124734	0.5093748554302157	0.3728482962154155	200	0.06421659706818393	0.10621906278958904	0.24062371185341158	0.13112148671853785	200	0.22895501300023957	0.31676578841721836	0.5133794999974186	0.3454599512715491	200	0.5866180593269568	0.6757693701986704	0.7581830887337887	0.6756303261227171	200	0.8183041818037008	0.8634762851639095	0.902966208773753	0.8598603619579761	200	0.030296623242236743	0.04222130957906105	0.058479993506724774	0.0441813352465796	200	8.0	10.0	11.0	9.7
103	fresh-zh-1	22	23	QKV	16	full_attention	200	0	200	0.29037469587055964	0.36007841280661523	0.42876356788910924	0.3618773313559359	200	0.06149344183504582	0.10106398910284042	0.14472270011901855	0.10212308172136546	200	5.839062505612701	7.612101863939762	9.64438690124938	7.665156123130973	200	0.3649414066007938	0.47575636649623515	0.6027741813280862	0.4790722576956858	200	0.043933354259961456	0.07346269657826368	0.11601131881578822	0.0775862528069393	200	0.18957159455392047	0.2814065255030375	0.36074185492119154	0.2785400452429898	200	0.5423959525219761	0.5951639662416559	0.6429841849355784	0.5942475007152278	200	0.775967739021575	0.8089392917502702	0.8332560576910509	0.8069472692661399	200	0.05220282240400577	0.06465804028412984	0.07959129731591676	0.0650774446869007	200	10.0	11.0	12.0	11.125
104	fresh-zh-1	22	23	JS	16	full_attention	200	0	200	0.0006433107142544969	0.005029468058637576	0.009329614385455896	0.004928803411408012	200	0.0003166275477269665	0.0024420906556770205	0.005078282160684466	0.002524947199417511	200	2.1931030652823855	2.9386259925524554	4.010336386724875	3.0725923688604064	200	0.1370689415801491	0.18366412453452846	0.2506460241703047	0.1920370230537754	200	0.19932094657634944	0.2963147732831179	0.41971051938784687	0.3026397028759481	200	0.36362632817018486	0.49651409730384194	0.6510295296725981	0.5048326123672355	200	0.842685359961803	0.9076509547744371	0.9508851429048261	0.9008439566152725	200	0.9593154414306101	0.978183274274075	0.9915364427157294	0.976535529056014	200	0.0014586561152327788	0.004169070780395262	0.008220400394240034	0.00460339436229952	200	3.0	4.0	6.0	4.405
105	fresh-zh-1	22	23	sqrtJS	16	full_attention	200	0	200	0.0633149473782396	0.19330154557246715	0.24875540377106517	0.17162828117536263	200	0.01779393944889307	0.049417492002248764	0.07126184999942779	0.04604077075608075	200	5.629146379436792	6.977966572711463	8.279055098310208	6.967945352487096	200	0.3518216487147995	0.4361229107944664	0.517440943644388	0.4354965845304435	200	0.0621725285869526	0.08619551993155491	0.12282329129553866	0.09071510895108638	200	0.21480057422104684	0.266990922186803	0.33301653823564925	0.2719936755675187	200	0.594021704609691	0.6606513508815572	0.7369617105159236	0.6616751262489386	200	0.8178922005537227	0.8545975415872406	0.8995344632204977	0.8573324619253084	200	0.028710226356380875	0.045251362467490786	0.06104690403816136	0.04556362815948265	200	8.900000000000002	10.0	11.0	9.84
106	fresh-zh-2	0	1	Q	16	linear_attention	400	0	400	2.6784210954792798	3.559671798720956	4.315633611753583	3.5250763838225976	400	0.5066291093826294	0.8996946215629578	1.2882700085639953	0.9066566143929958	400	6.117784163448662	8.531549190505725	11.52523814966956	8.692783656485016	400	0.3823615102155414	0.5332218244066078	0.7203273843543475	0.5432989785303135	400	0.025883854945909796	0.0583594992989115	0.10768844080187066	0.06356425468728899	400	0.17041793926498347	0.2506593742694412	0.34858194131701103	0.2561005173416817	400	0.46212054078992065	0.5455619304454083	0.6414843885270962	0.5487701210297806	400	0.7046807235140854	0.760751569011072	0.8199049347590902	0.7616548586967525	400	0.05685607280081057	0.08315166280784761	0.11767255509827633	0.08551447930801687	400	11.0	12.0	13.0	11.96
107	fresh-zh-2	0	1	K	16	linear_attention	400	0	400	2.8104895094409588	3.5754500501789153	4.57786109931767	3.656229769074125	400	0.4610318154096603	0.7450397610664368	1.0994075536727907	0.7688645838201046	400	7.512460427712821	10.198398707866057	12.337593432884395	10.00822649513756	400	0.4695287767320513	0.6373999192416285	0.7710995895552747	0.6255141559460975	400	0.01978995926200752	0.03792491821934292	0.07531982691953788	0.04657028923944429	400	0.1448736630137827	0.20618113365045948	0.2840991748227493	0.21291491356964432	400	0.42616791722557923	0.4921625882011538	0.6339759058455573	0.5127754019403266	400	0.6881941121690442	0.7331072229269654	0.8122441042502336	0.7408280859553779	400	0.06357450075704596	0.09070539653501303	0.11907192520056681	0.09055638590408517	400	11.0	12.0	13.0	12.15
108	fresh-zh-2	0	1	V	16	linear_attention	400	0	400	1.7271244302392006	2.8793379687704146	4.66863455651328	3.112373010565352	400	0.31386266350746156	0.5519219636917114	1.226453268527985	0.6850567919015884	400	6.887264222471189	9.590149649070376	12.234378218987263	9.601490529650256	400	0.4304540139044493	0.5993843530668985	0.764648638686704	0.600093158103141	400	0.020519398207496854	0.04455889994104878	0.0882087670427868	0.050254306626077334	400	0.1416716918413607	0.20099311928413746	0.30513203078579665	0.21453476691412351	400	0.44239288433326873	0.5266291836488135	0.6289745496130613	0.5315226712406913	400	0.7033953095035427	0.7633178057225993	0.835334681225075	0.7669896969176005	400	0.046942508574499074	0.07595654007959489	0.10908925938061115	0.07703285796184914	400	10.0	12.0	13.0	11.6975
109	fresh-zh-2	0	1	QKV	16	linear_attention	400	0	400	2.936536581069231	3.5546105480752885	4.395965920574963	3.630937969654915	400	0.513794070482254	0.780226081609726	1.06846444606781	0.7955444942414761	400	7.72129670134044	9.72016954485241	11.976709803903054	9.76546950612606	400	0.4825810438337775	0.6075105965532757	0.7485443627439409	0.6103418441328787	400	0.022395094374461987	0.043070791464694225	0.07147951253261786	0.045519170640060676	400	0.15839920384162673	0.2159698285858564	0.27867393170202004	0.21805562582437601	400	0.4451752590841819	0.5099094012078482	0.6068989986163271	0.5196597331043674	400	0.6958783874455235	0.7395649248171764	0.7960470134474323	0.7432649491018253	400	0.06336794935501554	0.09091149295795725	0.12208358613776556	0.09267042081655948	400	11.0	12.0	13.0	12.245
110	fresh-zh-2	1	2	Q	16	linear_attention	400	0	400	0.5336477428965737	1.1550053376704454	1.755918895499781	1.1622334863040304	400	0.09361197426915169	0.22978638857603073	0.3899625211954117	0.2411746523808688	400	6.781960634979552	9.160391142070782	11.534785610826267	9.154723377705	400	0.423872539686222	0.5725244463794239	0.7209241006766417	0.5721702111065625	400	0.025807365855277584	0.04977719435355327	0.09061331842854252	0.05465675511578203	400	0.1453941230061744	0.1981280887166446	0.27889947302954526	0.20762903478758676	400	0.4621582441523873	0.5568666011738603	0.6516005248551898	0.558283458568097	400	0.7423182282300017	0.815959338378648	0.9074810834063154	0.8194407747783609	400	0.01602720402645506	0.050190706459719625	0.07958469801936839	0.049384819145551796	400	8.0	11.0	12.0	10.4075
111	fresh-zh-2	1	2	K	16	linear_attention	400	0	400	0.8472512579988688	1.294328612391837	1.9201772655826064	1.3734041296314898	400	0.1511938065290451	0.25237904489040375	0.41002078950405124	0.2789111100509763	400	7.145554187312737	9.611009828722462	11.556125661195967	9.455693044915314	400	0.44659713670704604	0.6006881142951539	0.7222578538247479	0.5909808153072071	400	0.02563647179252993	0.044317181389924715	0.08261034956951013	0.051438474782410495	400	0.1421917181857805	0.191851669561938	0.27188768816794995	0.20404310070716733	400	0.4691866466938301	0.5389448290915154	0.6301662781434917	0.5439430922482749	400	0.7379483633745343	0.7999119669902908	0.8820116831740423	0.8068884121442349	400	0.0230436059321496	0.05616199994453132	0.08934587416077841	0.055449739808680315	400	9.0	11.0	12.0	10.7
112	fresh-zh-2	1	2	V	16	linear_attention	400	0	400	0.5713463072082959	1.074984957871493	1.8424682033248245	1.1459443381384882	400	0.106293685734272	0.21141317486763	0.4074859321117401	0.2377524233609438	400	6.479088462567195	9.273684096203777	11.585670975609442	9.110026463189234	400	0.4049430289104497	0.579605256012736	0.7241044359755902	0.5693766539493271	400	0.025401335531024617	0.04835414519604584	0.09796633830251174	0.05689435407531313	400	0.14184550662475784	0.19020731694753412	0.2985819614374231	0.2081330357637579	400	0.4633980745345449	0.5526392620785863	0.6597568239227333	0.5602812356492427	400	0.7418463091229367	0.8236638617793975	0.912284932627027	0.826010512006913	400	0.015381387134538252	0.046092015472826715	0.08479855267493548	0.04851076992061586	400	8.0	10.0	12.0	10.2375
113	fresh-zh-2	1	2	QKV	16	linear_attention	400	0	400	0.802663676487282	1.2894035587087274	1.8413150649517775	1.3098403922715807	400	0.1429921105504036	0.2337099239230156	0.3749369978904725	0.25055740708485247	400	7.626137923007488	9.600311791921143	11.952683088928085	9.705343091456633	400	0.476633620187968	0.6000194869950715	0.7470426930580053	0.6065839432160396	400	0.022574117660033616	0.04444084859165792	0.07320318598202107	0.04680265130552581	400	0.13587146788780108	0.18759420410807082	0.2631369756070376	0.19310309000227505	400	0.45005938469798207	0.5335019337487386	0.619274726205423	0.5353947680730584	400	0.7267400722189363	0.8004786169485665	0.8826859107315967	0.80516347697214	400	0.02166898020422878	0.05610149385743507	0.0909794361858572	0.055732782974919334	400	9.0	11.0	12.0	10.6975
114	fresh-zh-2	2	3	Q	16	full_attention	200	0	200	0.8993129206413869	1.2311510134313721	1.6292167951818555	1.2540482087324198	200	0.2186799481511116	0.2791487127542496	0.3730020523071289	0.2890693274885416	200	6.687009320239848	8.75514697050005	10.684212423050207	8.69340081627616	200	0.4179380825149905	0.5471966856562531	0.6677632764406379	0.54333755101726	200	0.033169116600978064	0.055166760553339904	0.09284683362656626	0.06026045310170086	200	0.16976076946230767	0.2324586251796143	0.30716784535479696	0.23772766452125738	200	0.49194071151317953	0.554654697233007	0.6344001867663099	0.5589209980961543	200	0.7529814952689862	0.8171522256914825	0.8711913296012616	0.8150045580034063	200	0.01444950653251639	0.04395989360405843	0.07367107880632467	0.044640012674247345	200	9.0	11.0	12.0	10.52
115	fresh-zh-2	2	3	K	16	full_attention	200	0	200	1.0167563085386064	1.289182523963973	1.5362084539839995	1.2801181593898219	200	0.21695202440023423	0.26905012130737305	0.3217982947826385	0.26668707966804506	200	7.563577773060466	9.27945438139734	10.974267067736548	9.17131253752412	200	0.4727236108162791	0.5799658988373337	0.6858916917335343	0.5732070335952575	200	0.030532988614936016	0.04828457990698644	0.07437327256193554	0.05230085879146733	200	0.1575994258889159	0.21977768003671322	0.2609350017693238	0.21351249858076077	200	0.4765393289006954	0.5474514630882964	0.6229359099881486	0.54906189132233	200	0.7526505803404225	0.8173710656563103	0.8757001322521665	0.818317140280337	200	0.013357270324334543	0.042232139039857286	0.06564683017398996	0.04157666276975659	200	9.0	10.0	12.0	10.4
116	fresh-zh-2	2	3	V	16	full_attention	200	0	200	1.0811328606912867	1.4131184845464304	2.193098283978179	1.4891596455674152	200	0.24811245501041415	0.3043006360530853	0.4012023299932479	0.32522410213947295	200	7.371213190418436	9.117027987828546	10.661722116131328	9.003742174628126	200	0.46070082440115223	0.5698142492392841	0.666357632258208	0.5627338859142579	200	0.033379738211350735	0.05033171447340033	0.0780404188160741	0.05405035002244855	200	0.1771559038243438	0.219349370060362	0.27829204315840095	0.2235415539160946	200	0.5046271814643796	0.5473044951269688	0.6033912044456409	0.5514195652243391	200	0.7468725748336894	0.8078926787368341	0.8496249050365182	0.8023260215154692	200	0.016500361764635697	0.04968735000466541	0.07686336993421657	0.050650306058917	200	10.0	11.0	12.0	10.9
117	fresh-zh-2	2	3	QKV	16	full_attention	200	0	200	1.0465959789813497	1.326384887623135	1.8111236160621047	1.3640863217425068	200	0.23445787727832795	0.28515270352363586	0.3634243905544281	0.2942305117100477	200	7.3752083316840364	9.263852056851638	10.973150670801747	9.116421928105702	200	0.4609505207302523	0.5789907535532274	0.6858219169251092	0.5697763705066063	200	0.030540504034247008	0.04847636544377003	0.07796202004584099	0.05271926403711071	200	0.16824336792511158	0.220655243402105	0.2776208168794974	0.2207363346845586	200	0.48328261869321454	0.5376425134375862	0.6122147155048353	0.5465372692511494	200	0.7475225662214877	0.8073752435269923	0.8596723189911747	0.8073101963329276	200	0.01504699354534652	0.04803234550828406	0.0742059194321406	0.04670363722708493	200	10.0	11.0	12.0	10.705
118	fresh-zh-2	2	3	JS	16	full_attention	200	0	200	0.033448167066580936	0.05564773845230775	0.09787187126348726	0.06004451266739807	200	0.013152833096683025	0.027376949787139893	0.06018529832363128	0.03327927593141794	200	1.4727544829126265	3.3988920187533527	5.725476907183045	3.5449320107920017	200	0.09204715518203915	0.21243075117208454	0.3578423066989403	0.2215582506745001	200	0.11963532755144395	0.24716110088194726	0.6576526947945271	0.3167158478088197	200	0.31645763911178215	0.4970100259065895	0.8216160846783133	0.5330661500627615	200	0.6906147329649192	0.8098432117780925	0.9257492856690333	0.8062379211162343	200	0.8846961358686755	0.9365625382050167	0.9766278558195673	0.9333179735345538	200	0.003490389515842565	0.011699572151314348	0.023815301075335624	0.012853122026607502	200	3.0	7.0	9.0	6.6
119	fresh-zh-2	2	3	sqrtJS	16	full_attention	200	0	200	0.5147837075870484	0.6829850850626826	0.8971190208103508	0.6926104764753837	200	0.11468573287129402	0.16545837372541428	0.24532595425844192	0.17407447088509798	200	5.304095096025002	9.12824132284305	10.916963993062089	8.593923252709432	200	0.33150594350156265	0.5705150826776906	0.6823102495663805	0.5371202032943395	200	0.031040645558570792	0.05018688622426508	0.134436893872321	0.06729200681748726	200	0.1707759904195831	0.233337792425879	0.3886315688481297	0.25794270892352494	200	0.4727869244530316	0.5464853478854644	0.6427440411339127	0.5502366009148489	200	0.7302245911601384	0.7823344771146692	0.8386868279110486	0.7832864792369361	200	0.04568047562806946	0.0678677686395084	0.08999645419244942	0.06769614052735536	200	10.0	11.0	12.0	11.305
120	fresh-zh-2	3	4	Q	8	linear_attention	400	0	400	0.6812251007184387	1.347758723422885	2.8742594607174397	1.5544886476011015	400	0.14631469398736954	0.32208526134490967	1.03531209230423	0.4470309623144567	400	4.183795314399322	6.163438859857621	6.9655024985692675	5.941844610543826	400	0.5229744142999152	0.7704298574822026	0.8706878123211584	0.7427305763179782	400	0.0212167631324211	0.042568143690182185	0.13030612791783958	0.05706392803814369	400	0.19910666770396923	0.2476915829014677	0.362128983134063	0.2667700435484291	400	0.3783567651201555	0.44734498124279914	0.6428902775944623	0.4692515810034629	400	0.6580119006456923	0.7200698254221183	0.8319289083940477	0.7266867168399176	400	0.06156206019751065	0.10927652851642485	0.14428019309986914	0.10781034049159327	400	6.0	7.0	7.0	6.57
121	fresh-zh-2	3	4	K	8	linear_attention	400	0	400	0.9337062157690525	1.3523602075874805	2.1561363413929944	1.4563357652071864	400	0.2000514656305313	0.3472091853618622	0.6602227389812471	0.3932704356685281	400	4.9200332157282824	6.321727312008696	6.999426341415524	6.1222504946924685	400	0.6150041519660353	0.790215914001087	0.8749282926769405	0.7652813118365586	400	0.02042297549666403	0.037925324284111855	0.08942959221074512	0.04828150176645309	400	0.20008027920921417	0.24797535728015935	0.35064883334782226	0.2636540782231443	400	0.3718783672438628	0.432800571066544	0.5533483189438939	0.4498190724506456	400	0.6508311553664654	0.7070849375802888	0.7724978524235098	0.7087244339703611	400	0.08577013610773004	0.11524661707701989	0.14426106552295564	0.11528385610996399	400	6.0	7.0	7.0	6.74
122	fresh-zh-2	3	4	V	8	linear_attention	400	0	400	0.7077728314325213	1.2413044888526201	2.2631957776844502	1.381606738830451	400	0.16702189147472382	0.3244937062263489	0.6462681472301484	0.37337769774720075	400	4.7608679071955144	5.999111519972111	6.851865709534093	5.914010623821941	400	0.5951084883994393	0.7498889399965138	0.8564832136917616	0.7392513279777426	400	0.023937890009442325	0.04764740884695917	0.09719531029984338	0.05476326114677928	400	0.20566608030694966	0.25653797994259797	0.3520709877404495	0.267399722841454	400	0.3848867739509728	0.4569484863148974	0.56399790334758	0.4659834068370273	400	0.6632029797539796	0.727876926916892	0.7970127944977382	0.7298291915922949	400	0.07123923823826649	0.09915328469466353	0.13242126257114709	0.10052323652296803	400	6.0	6.0	7.0	6.4675
123	fresh-zh-2	3	4	QKV	8	linear_attention	400	0	400	0.9467487499117851	1.4166230261325836	2.35920599475503	1.543510935259983	400	0.2062367469072342	0.3535090535879135	0.7230001866817475	0.41168989937752487	400	4.745075705508948	6.2622365822066515	6.958706838335711	6.078277407573788	400	0.5931344631886185	0.7827795727758314	0.8698383547919639	0.7597846759467235	400	0.0213770100707637	0.03964269212305083	0.09799736235695997	0.04943238097338261	400	0.19942511745931615	0.24496979921816864	0.341878624569254	0.25852253254751895	400	0.3742702647196632	0.437904650222272	0.5785693670545975	0.45644312845934715	400	0.6583957585201634	0.7094064337440728	0.7843585312849737	0.7171820403920584	400	0.08264559999431385	0.11060451779074318	0.1392998240635045	0.11111655747988841	400	6.0	7.0	7.0	6.7075
124	fresh-zh-2	4	5	Q	16	linear_attention	400	0	400	0.6286894285003655	1.023394260671921	1.3528277426841668	1.0210299312572897	400	0.08047708421945572	0.1517123281955719	0.23211983442306522	0.1568526402208954	400	10.078752559390589	12.107719200494873	13.4157321480197	11.883582832278451	400	0.6299220349619118	0.7567324500309296	0.8384832592512312	0.7427239270174032	400	0.012841978012980766	0.021431439793240532	0.03916654498451242	0.02429751935594066	400	0.11543657623083156	0.14550026004524275	0.2002310471233691	0.15227665477897195	400	0.3934583656169914	0.444474335844636	0.516342190934689	0.45133342214798944	400	0.6709230779048313	0.7161289018834969	0.7721637466956828	0.7193877395961513	400	0.0625106112720948	0.09396193909089552	0.13038077800687706	0.09521750506500487	400	11.0	12.0	13.0	12.3325
125	fresh-zh-2	4	5	K	16	linear_attention	400	0	400	0.6756591955432668	0.9881969420239329	1.3682786277262493	0.9902907327602225	400	0.08710963502526284	0.13617576658725739	0.22272974252700806	0.14834913161583244	400	10.505437210261272	12.31591344109961	13.77168252753122	12.181153891178965	400	0.6565898256413295	0.7697445900687256	0.8607301579707013	0.7613221181986853	400	0.010786953590961434	0.019942179443998377	0.034868058551460475	0.02213756472952461	400	0.11307066428167543	0.1396475419145041	0.192297017683191	0.14751539672280986	400	0.3856588134895072	0.43584386388507257	0.5037758442279161	0.44045477664972	400	0.6574902371969683	0.7114485202817505	0.7619465602107708	0.7098446059154567	400	0.06871823786379341	0.10285639334102706	0.13676094259995752	0.10263977095556345	400	12.0	13.0	13.0	12.535
126	fresh-zh-2	4	5	V	16	linear_attention	400	0	400	0.33955027741612864	0.6936745375860482	1.3572318752645522	0.7828088770618706	400	0.04852813109755516	0.10321569442749023	0.23216074407100684	0.12352707331534475	400	9.895457863841646	11.645734236735755	13.094130106849045	11.532941988653661	400	0.6184661164901029	0.7278583897959847	0.8183831316780653	0.7208088742908538	400	0.01479477835230403	0.024926249377244282	0.04112715313767028	0.027368277465374843	400	0.11412034662942537	0.15081015220885047	0.20294101355765598	0.15689000298649813	400	0.40354943548239824	0.4620349303967301	0.5230834939119356	0.4649843192000263	400	0.6842118232162278	0.7311550601734638	0.7842384897525098	0.7329094030845161	400	0.059015179055331525	0.0860165543852225	0.12279736249502948	0.08854098099669828	400	11.0	12.0	13.0	12.1425
127	fresh-zh-2	4	5	QKV	16	linear_attention	400	0	400	0.6803235459141433	0.9590906246448867	1.3362675739452243	0.9925166586854175	400	0.08297985419631004	0.13207364827394485	0.20362010896205907	0.13969412707723677	400	11.116112891934842	12.615717813416758	13.882878270204255	12.508566284410977	400	0.6947570557459276	0.7884823633385474	0.867679891887766	0.781785392775686	400	0.010166588456327817	0.017883951942293745	0.029290247985612437	0.019320086309333642	400	0.10860822300326076	0.134895417963523	0.17631712250943626	0.1397920380775314	400	0.3798330500245528	0.4225091923346047	0.48424898226319996	0.42810241109424096	400	0.65513195992357	0.6983106312296545	0.7483417680315073	0.6999279898335812	400	0.07414547408630082	0.10321727805164574	0.1389003629099275	0.10554997819592708	400	12.0	13.0	13.0	12.5775
128	fresh-zh-2	5	6	Q	16	linear_attention	400	0	400	0.850007483549416	1.2207114743068814	1.6831544047221543	1.2485097377817147	400	0.11453252360224724	0.16855048388242722	0.2544349640607834	0.17848098322749137	400	10.872768914972001	12.457234886402812	13.636162416028718	12.342269318868563	400	0.6795480571857501	0.7785771804001758	0.8522601510017949	0.7713918324292852	400	0.01155672969773123	0.01895964406034801	0.03143775779058722	0.020533243078545666	400	0.11274584940351044	0.13842067691862875	0.1822133877041225	0.14285794531054014	400	0.3926102521609784	0.4365892174531998	0.49888747030841885	0.44202879903888587	400	0.6626627091061184	0.7072325138466298	0.7504335854905022	0.7062846815958508	400	0.0841811428762516	0.1103423577695062	0.13414125319742762	0.11048018698250914	400	12.0	13.0	13.0	12.7725
129	fresh-zh-2	5	6	K	16	linear_attention	400	0	400	0.8992205899208784	1.2125543355941772	1.685433608107269	1.2559091555676423	400	0.10434456542134286	0.1562695950269699	0.250750732421875	0.1667019068636	400	11.699067397567521	13.274039164365778	14.172441952305217	13.078471225575745	400	0.7311917123479701	0.8296274477728611	0.8857776220190761	0.8174044515984841	400	0.008596768755171992	0.013690688909409839	0.024508766341189973	0.015421824734514056	400	0.10457791566060448	0.12681720619814252	0.16361390382919533	0.13141070948655018	400	0.36737523538138445	0.4080473915838079	0.4698767603393026	0.41403344744608866	400	0.6398465900608583	0.6741324020329855	0.7241800988974824	0.6773810139252291	400	0.10004589344021192	0.12898193555515566	0.15100716246065313	0.1270813694255518	400	12.900000000000006	13.0	14.0	13.1325
130	fresh-zh-2	5	6	V	16	linear_attention	400	0	400	0.6542597630061209	1.077013324946165	1.7728758189827205	1.1508489729938447	400	0.09124561175704003	0.1528458371758461	0.2834826081991196	0.1728745711222291	400	10.395379565008483	12.15055368523931	13.61100414640209	12.088915622102425	400	0.6497112228130302	0.7594096053274568	0.8506877591501306	0.7555572263814015	400	0.011701296434203699	0.02112091481908649	0.03594324393468738	0.022964505938502328	400	0.113934423543713	0.14358232820954148	0.19249449654720718	0.14994396763834159	400	0.38844467061771454	0.4443463220973173	0.5124238947536248	0.44704203676657445	400	0.6611759888894667	0.7084386049916309	0.7608543647408813	0.7101876785265088	400	0.07741190305724786	0.10679659189136748	0.13734503220693448	0.10662731972143934	400	12.0	13.0	13.0	12.6275
131	fresh-zh-2	5	6	QKV	16	linear_attention	400	0	400	0.9629941495135427	1.2636645091697574	1.6333377357572318	1.2833677584212273	400	0.11412648484110832	0.1560099869966507	0.2304790332913399	0.16487920071929693	400	11.995346718416863	13.335323521264634	14.1945670553286	13.202256890120688	400	0.749709169901054	0.8334577200790396	0.8871604409580375	0.825141055632543	400	0.008479455338460208	0.013321398183935436	0.022256740302641128	0.014492246329915956	400	0.10545687966634136	0.12368967730773128	0.15644732659478286	0.12798491264495473	400	0.3688232426808109	0.40520846065543653	0.45807652748344146	0.41019189419911184	400	0.6396676037041121	0.6730875467277726	0.7106469009746262	0.6751986841323167	400	0.10350578991329562	0.12812625766121605	0.15125214859158023	0.12782037100290775	400	13.0	13.0	14.0	13.1375
132	fresh-zh-2	6	7	Q	16	full_attention	200	0	200	0.687014796352014	0.9055734653957188	1.2147770636714994	0.932920820217114	200	0.16238171160221102	0.19910967350006104	0.2476297616958618	0.2027275863289833	200	7.008896455272861	8.992261441986745	11.137891337707893	8.97713126591093	200	0.4380560284545538	0.5620163401241716	0.6961182086067433	0.5610707041194332	200	0.029102636838313784	0.05195500660458982	0.0855209851440279	0.056306682563575045	200	0.16191361667546386	0.21855865222851922	0.29444711878290125	0.2244740129273826	200	0.48331582232369974	0.5603641535063217	0.648928652276827	0.5639449492990658	200	0.7451328104195889	0.8033425773136801	0.8596025650444639	0.802019949625251	200	0.03756738902111045	0.05906582746625982	0.08772425071656301	0.06087593837498951	200	10.0	11.0	12.0	10.98
133	fresh-zh-2	6	7	K	16	full_attention	200	0	200	0.7348533940268681	0.9835070561384782	1.1769101968966422	0.9729980131541379	200	0.14996416419744493	0.1923513114452362	0.2304789423942566	0.19173243373632431	200	7.887335732306829	9.620315343486261	11.223242560317127	9.552603305697515	200	0.4929584832691768	0.6012697089678913	0.7014526600198204	0.5970377066060947	200	0.028378696523159885	0.04420981366549716	0.06865807014485487	0.04735011317381043	200	0.16371093420458147	0.19230274555962595	0.2520936745368967	0.20029772434589	200	0.4656664448419066	0.5388826987821724	0.6348736730542034	0.5474517733604969	200	0.7417436587453164	0.7907441237863757	0.8427634295916976	0.793464417069535	200	0.04117053136310003	0.060855559900653736	0.08807468500585407	0.06453110082590861	200	10.0	11.0	12.0	11.16
134	fresh-zh-2	6	7	V	16	full_attention	200	0	200	0.9429454141529278	1.2080861646682024	1.4355560445226727	1.1927375790756196	200	0.17252458184957503	0.21075499802827835	0.2731092512607574	0.2185354572534561	200	7.8281428435786475	9.947087921110228	11.859746917108396	10.02382429166331	200	0.48925892772366547	0.6216929950693892	0.7412341823192747	0.6264890182289569	200	0.02327372004345265	0.04056756724316039	0.06959407544049823	0.042228891303031556	200	0.14104365117909387	0.17937449700728103	0.23899880264527093	0.18723263655185207	200	0.4517469947525151	0.5302476337416329	0.6134079113137781	0.5286569063336067	200	0.7270124096591025	0.7830081701716999	0.8331478690273625	0.7828620819653583	200	0.0457122390610176	0.06947608514683806	0.09520029416258481	0.0702036914792069	200	10.0	12.0	12.0	11.48
135	fresh-zh-2	6	7	QKV	16	full_attention	200	0	200	0.8218812965322286	1.0770739214494824	1.2469542897306383	1.0517673873191233	200	0.1626240238547325	0.2037961408495903	0.24288544803857803	0.20300193943083286	200	7.655344856465389	9.707328259401525	11.612704653324975	9.730204981630752	200	0.4784590535290868	0.6067080162125953	0.725794040832811	0.608137811351922	200	0.025186759288658715	0.04321621995332453	0.07267003375080719	0.04537094552500097	200	0.14522274418396963	0.19556793573579595	0.2502941221608022	0.1967809943997404	200	0.4590558288460326	0.5390097153036804	0.6216716665349686	0.5399644871645356	200	0.7293553921357455	0.786360543772143	0.8406465958743105	0.7882964969244451	200	0.04172663492609001	0.06605676506088651	0.09306152261354463	0.06697438966416348	200	10.0	11.0	12.0	11.3
136	fresh-zh-2	6	7	JS	16	full_attention	200	0	200	0.015560420188137416	0.03576696577965777	0.06376001235039438	0.03857223819759504	200	0.004956961330026388	0.012278192676603794	0.027893566712737083	0.014450385831296444	200	2.3441436284271195	4.85312814600349	7.294545866668523	4.932494843897084	200	0.14650897677669497	0.30332050912521813	0.4559091166667827	0.30828092774356775	200	0.07956148857028608	0.1531252197288483	0.38839506587827133	0.19481818163872655	200	0.20943451843543534	0.33797916279509155	0.6335231511834918	0.3776489454393901	200	0.6533904097570001	0.7909383258385765	0.904002350934321	0.7811691843380018	200	0.8894584007339179	0.9456311054989818	0.9804330583997438	0.9389277564448875	200	0.003463397057282541	0.009868600105001825	0.02267380658795696	0.011757646771249202	200	4.0	7.0	9.0	6.665
137	fresh-zh-2	6	7	sqrtJS	16	full_attention	200	0	200	0.3461533321416937	0.5831202674889937	0.7570074148476124	0.5766709119178995	200	0.07040502727031708	0.11080574616789818	0.16701333373785018	0.11430789001286029	200	6.8480609902259015	9.477582448189732	11.462535995996191	9.2879402417683	200	0.42800381188911885	0.5923489030118583	0.716408499749762	0.5804962651105188	200	0.0263901150613913	0.04587963140386321	0.08909532664702488	0.05404535160656519	200	0.13910662840989046	0.18719585664591068	0.30449170860394	0.20526591532690439	200	0.4654513551144829	0.550799964667037	0.6596268322314756	0.5568742351932628	200	0.7499024924051205	0.8036992126753697	0.8627447404576886	0.8025792324184949	200	0.03819984821398796	0.061363312641139395	0.08371504206415634	0.06124599579158597	200	10.0	11.0	12.0	10.98
138	fresh-zh-2	7	8	Q	8	linear_attention	400	0	400	0.963251867890358	1.558474475517869	2.902129247784615	1.768479774366133	400	0.21639974415302277	0.34893959760665894	0.682628345489502	0.39776828300207856	400	5.900423334843829	6.562370328329661	7.080570394786534	6.506091108670474	400	0.7375529168554786	0.8202962910412076	0.8850712993483167	0.8132613885838093	400	0.018550353918216182	0.03129597278717164	0.0508335610929049	0.03386220270966255	400	0.19099125089792265	0.2196247004974251	0.2713292937130322	0.22684340191967664	400	0.3622199646459188	0.40477335744870974	0.4642547751042748	0.4096773772989637	400	0.6460621746132328	0.7016725450935115	0.7571179779152897	0.701532640152621	400	0.0898226019973526	0.11605280310423503	0.14095359940070457	0.11532923666423305	400	6.0	7.0	7.0	6.7625
139	fresh-zh-2	7	8	K	8	linear_attention	400	0	400	0.3344550456851721	1.423342164605856	2.4089005753397945	1.4791520859807497	400	0.06650525331497194	0.3037361800670624	0.5272434651851655	0.31955348477698864	400	6.140099928493848	6.648216936994127	7.195414514235623	6.654039093674819	400	0.767512491061731	0.8310271171242659	0.8994268142794529	0.8317548867093524	400	0.015974179899856118	0.029047188716045138	0.04327291558665942	0.02977082736489778	400	0.18255935248950678	0.21223812513102963	0.25374748763545574	0.21581782644832345	400	0.34909672992970164	0.39511687923265365	0.4417615451872795	0.3966416971136322	400	0.6408602874835513	0.6959855803306833	0.7469270760870556	0.6940795298593521	400	0.0940784079775587	0.11884592939527396	0.147895087150434	0.12030877218272039	400	6.0	7.0	7.0	6.8325
140	fresh-zh-2	7	8	V	8	linear_attention	400	0	400	0.6318522274494172	1.3380410242825747	2.1230420328676702	1.345673517389223	400	0.15563115626573562	0.32925964891910553	0.6325971961021424	0.35993642058223485	400	4.903432227290967	6.160560485729121	6.91263691622773	6.00146375175668	400	0.6129290284113709	0.7700700607161401	0.8640796145284663	0.750182968969585	400	0.02247155698121308	0.04265493453018222	0.0902159408857469	0.051546919732455176	400	0.2022139748083212	0.244284156422943	0.34055198039223844	0.26259898075292787	400	0.3814515974538133	0.43535256343513834	0.5395020133405021	0.44914336529379584	400	0.6641321417914857	0.7318753402200763	0.8047708129765924	0.7335524132015949	400	0.06933501272639045	0.09939702144086002	0.135852868034634	0.10095495073171268	400	6.0	6.0	7.0	6.465
141	fresh-zh-2	7	8	QKV	8	linear_attention	400	0	400	0.9557942457497121	1.5293590724468231	2.41666070073843	1.626029323064722	400	0.20811364352703096	0.33834849298000336	0.5384937226772308	0.3625067052990198	400	5.907443050322293	6.559081406945095	7.102326096958445	6.523263399984855	400	0.7384303812902866	0.8198851758681369	0.8877907621198057	0.8154079249981069	400	0.01805593884275101	0.031383289997399935	0.05060340784815262	0.03337498319641826	400	0.1884747477101536	0.21846092429215216	0.27018820587481346	0.22556789452628564	400	0.36405292852977306	0.4033010275168095	0.4585141255907992	0.40808034620775574	400	0.6482858229221864	0.704909689497271	0.7565942537443274	0.7036711339352562	400	0.09312962317383842	0.11528445176589353	0.14417956065956603	0.11736644574938487	400	6.0	7.0	7.0	6.77
142	fresh-zh-2	8	9	Q	16	linear_attention	400	0	400	0.6823213030584157	1.0089960535988212	1.4070010952651502	1.031631159793469	400	0.08882656767964364	0.137319877743721	0.21284338980913167	0.14597560971044005	400	10.748178703766573	12.511213241360938	13.641956624219524	12.340986035990461	400	0.6717611689854108	0.7819508275850586	0.8526222890137203	0.7713116272494038	400	0.01152348591295907	0.018590211064092893	0.03257495390578433	0.020549881591731177	400	0.10759858741312078	0.13622070618983229	0.18389406344123801	0.14179697323663387	400	0.3821298673679192	0.43214380762449245	0.48966568631700197	0.4351944699740531	400	0.6651459708125766	0.7110202289609098	0.7525544246429529	0.7101317043045845	400	0.07796729177633167	0.1022986429519939	0.1284634274749423	0.10307941565792937	400	12.0	13.0	13.0	12.56
143	fresh-zh-2	8	9	K	16	linear_attention	400	0	400	0.6854124701581895	0.9712583301588893	1.3763784609735012	1.0048457650234923	400	0.08375069126486778	0.12543070316314697	0.18150667846202853	0.13143930226564407	400	11.593289276001764	12.877356521022499	13.876507198131888	12.774017038994762	400	0.7245805797501103	0.8048347825639062	0.867281699883243	0.7983760649371726	400	0.010201860353355522	0.01616628120203887	0.025340630279753015	0.017265634813648602	400	0.1061466974181515	0.1277630621977717	0.1608421893066332	0.13139535149490755	400	0.37893102713145815	0.4174831238683251	0.4661283096109969	0.42162050177387655	400	0.6576761503961365	0.6971205383448346	0.7397410067470522	0.6974380469006896	400	0.08452968579316675	0.10877649617766658	0.13643348469889496	0.10955996231511843	400	12.0	13.0	13.0	12.73
144	fresh-zh-2	8	9	V	16	linear_attention	400	0	400	0.48543434822931886	0.8241976434364915	1.390811233967543	0.8942763623344945	400	0.0663076288998127	0.11690865457057953	0.2089322805404663	0.1287225678190589	400	10.79117437602816	12.417040104932138	13.56294164054711	12.239513330698054	400	0.67444839850176	0.7760650065582586	0.8476838525341944	0.7649695831686284	400	0.011979009652157922	0.01923679148830871	0.03217954245640139	0.021378330360068025	400	0.11057222294310148	0.13727640665752766	0.17959854698790725	0.14342703436737728	400	0.39087907857799525	0.4327445721995613	0.49177174137234836	0.43870757532896176	400	0.6693246786995476	0.7107624183831687	0.7574260801290429	0.7133601426091758	400	0.07671675774592389	0.09978468672973495	0.1278380518592144	0.10083642270736157	400	12.0	12.0	13.0	12.48
145	fresh-zh-2	8	9	QKV	16	linear_attention	400	0	400	0.7290561510249972	1.0042466334998608	1.3689184928312899	1.0303375706344378	400	0.08791246861219407	0.12238382175564766	0.1793705210089684	0.12919468224048614	400	11.891351255688503	13.15485743654848	14.114522585908896	13.08378388435116	400	0.7432094534805315	0.82217858978428	0.882157661619306	0.8177364927719475	400	0.00890564443716252	0.014418717867100896	0.023034381130956304	0.015257512185827396	400	0.1017899963904398	0.12088552065530515	0.1543943061055882	0.12573250635990207	400	0.3689747623263646	0.4059591609612434	0.45284355329091996	0.4082877155416354	400	0.645278838906934	0.686243759390091	0.7287286192290482	0.6864826503266932	400	0.08656954896627078	0.11623962525946577	0.14225465494600753	0.11512100345003713	400	12.0	13.0	13.0	12.8325
146	fresh-zh-2	9	10	Q	16	linear_attention	400	0	400	0.5940493597649038	0.9190406142733991	1.4654270390048625	0.991110304776812	400	0.07924356609582901	0.139134019613266	0.2585415571928024	0.16127049322240056	400	9.753563666662687	11.986198648377673	13.38104664082704	11.70454171084571	400	0.609597729166418	0.7491374155236046	0.83631541505169	0.7315338569278569	400	0.013048081307364522	0.02232457238713536	0.042695197127111145	0.026889678524774082	400	0.11618364535892516	0.1485430757572613	0.2130188196134589	0.15993091659907313	400	0.39648567697139103	0.45344891947225324	0.5284251642445584	0.45926066604330096	400	0.6743541627891385	0.721489767013564	0.7724609728037911	0.7236436618935378	400	0.07222800779220662	0.09724282856028803	0.12691919531479426	0.09786621235768816	400	12.0	12.0	13.0	12.375
147	fresh-zh-2	9	10	K	16	linear_attention	400	0	400	0.6508710502646864	0.8990921657532454	1.2014237709343434	0.9115452453627949	400	0.09279014691710472	0.12802980840206146	0.19691963344812394	0.1370885619148612	400	10.74453195327038	12.34017603015284	13.602691813339584	12.189079767266808	400	0.6715332470793988	0.7712610018845525	0.850168238333724	0.7618174854541755	400	0.011749191769017274	0.019771864115134357	0.032608636491846615	0.021777674339640524	400	0.11394347840216071	0.14518094824920502	0.20033669338962018	0.15084674261926462	400	0.3895745353366957	0.43567503479854836	0.4905992150419507	0.43957418600189624	400	0.6648104265002206	0.7060110986010514	0.7495502527362722	0.7060526669637863	400	0.08216459319774563	0.10578297165027356	0.12957213651090327	0.1060847691369965	400	12.0	13.0	13.0	12.6325
148	fresh-zh-2	9	10	V	16	linear_attention	400	0	400	0.4587136392015964	0.6876073661260307	1.1429073590785266	0.7556872137007303	400	0.0620508462190628	0.0999692864716053	0.18130848407745362	0.1131087754573673	400	10.541399798671643	12.303897584476786	13.767460085430711	12.138124354747667	400	0.6588374874169777	0.7689935990297991	0.8604662553394195	0.7586327721717292	400	0.010810720346346954	0.020026732140634166	0.03452335830916909	0.022868920537781206	400	0.11040454622069198	0.13996767442632246	0.19726316057855317	0.1503242189004077	400	0.38354830855961913	0.4377839536513496	0.5014292798009696	0.44172213673418825	400	0.6611077640452623	0.713401778786793	0.7597113155373733	0.711754891063228	400	0.07511016115775464	0.10294252807591586	0.12925376727421692	0.10352169101921159	400	12.0	13.0	13.0	12.5575
149	fresh-zh-2	9	10	QKV	16	linear_attention	400	0	400	0.6504405225161464	0.9181888550519943	1.2623574163764715	0.9357619134231936	400	0.08352749869227409	0.12333659827709198	0.19588928669691086	0.13284218261018396	400	11.081968736924063	12.707509175288696	13.87518271982123	12.559380002267336	400	0.6926230460577539	0.7942193234555435	0.8671989199888269	0.7849612501417085	400	0.01020919803222796	0.017273204857219733	0.029585796039963478	0.01912899162313016	400	0.10936519121613489	0.1344591727060116	0.181513514488691	0.14130480498850434	400	0.38238546355804903	0.4246176193728921	0.4811406762594599	0.4285852988874659	400	0.6541239591633542	0.6986099392224142	0.7409833917545308	0.6983710013500135	400	0.08656914839996535	0.11016001537868028	0.13871677250801	0.11116320279053067	400	12.0	13.0	13.0	12.745
150	fresh-zh-2	10	11	Q	16	full_attention	200	0	200	0.6182043068110943	0.8430793648585677	1.0857965022325515	0.8497080951323732	200	0.0900506965816021	0.11527549847960472	0.16624964475631712	0.12279644653201104	200	10.296525789731087	12.356836881317625	13.865081951346102	12.289314249642585	200	0.6435328618581929	0.7723023050823515	0.8665676219591314	0.7680821406026616	200	0.010265282438653328	0.019655317920679517	0.03692827119913988	0.02112511709810059	200	0.11166262597596695	0.14000373394677745	0.19496539860242063	0.14664508779155078	200	0.3856706382286854	0.43715747422651474	0.5028382225343072	0.44287381136587356	200	0.6551924879627492	0.7048965002033045	0.7593125302658268	0.7058761713593004	200	0.08730725467807957	0.11136438817902772	0.13760904003980043	0.11237746116746267	200	12.0	13.0	13.0	12.735
151	fresh-zh-2	10	11	K	16	full_attention	200	0	200	0.6179400110151619	0.8210435467772186	0.9326142269186675	0.8059216461423785	200	0.09643219113349914	0.19087949395179749	0.2463380768895149	0.1806161604821682	200	6.395476940723292	9.99831375902677	12.420090155643402	9.656327367275795	200	0.39971730879520573	0.6248946099391731	0.7762556347277126	0.6035204604547372	200	0.019224453262921343	0.04002139336382005	0.10013431684833303	0.050616146198025104	200	0.13967444699967446	0.21820106843747633	0.3313994440422073	0.2241602844078995	200	0.44244810435715004	0.5233843591379896	0.6195085798000509	0.5269320214965911	200	0.6859930345749605	0.7623535927525094	0.8175421883435254	0.7608493605031171	200	0.06119630602474754	0.08536667613959595	0.12771267831618296	0.08911247711584032	200	11.0	12.0	13.0	12.04
152	fresh-zh-2	10	11	V	16	full_attention	200	0	200	0.7490824665408582	0.9892853982746601	1.1872108437120914	0.9612219040002674	200	0.10072839632630348	0.12911496311426163	0.17608837038278569	0.13738574862480163	200	10.27789454315233	12.625539630481471	14.250811780267297	12.486220387327233	200	0.6423684089470206	0.789096226905092	0.890675736266706	0.780388774207952	200	0.0081828828793736	0.017819217818049907	0.03711771363240198	0.02003978766532885	200	0.10012299985045268	0.1413370047790768	0.17886571726664244	0.14389130370881914	200	0.3606295069968762	0.4203432078353291	0.511565509618861	0.4296444567132853	200	0.6479928108530383	0.7007020430941059	0.7523096721400566	0.6992044379475725	200	0.08438380254303705	0.10930967986622325	0.14483154075114857	0.11441816272357419	200	12.0	13.0	14.0	12.86
153	fresh-zh-2	10	11	QKV	16	full_attention	200	0	200	0.6919123398605734	0.9175626114010811	1.079559326544404	0.8972398960427381	200	0.0953451782464981	0.14140773564577103	0.17902919054031372	0.14258599277585746	200	9.51595316669769	11.85988651912448	13.944805415968524	11.769389525385082	200	0.5947470729186056	0.74124290744528	0.8715503384980328	0.7355868453365676	200	0.009825522948296406	0.023272394708995434	0.04542622555126366	0.02562800807654317	200	0.11031296338462056	0.15235756008040896	0.226956520186547	0.16121381079474326	200	0.3895726605760364	0.45783505177297035	0.5417679219453154	0.4573380716566514	200	0.6557039264870891	0.7174907094368088	0.7712403004479108	0.7180762613104094	200	0.08018298408239406	0.10563455649338205	0.14052965922963975	0.10714902018395173	200	12.0	13.0	13.0	12.645
154	fresh-zh-2	10	11	JS	16	full_attention	200	0	200	0.011142155992820335	0.024161406952771358	0.05232254761458533	0.032801581233288746	200	0.003320680861361325	0.007225634763017297	0.02942522913217544	0.01661940539430361	200	2.0824668656602046	5.565923289458514	8.888684606686917	5.610989218469195	200	0.13015417910376278	0.3478702055911571	0.5555427879179323	0.35068682615432467	200	0.05333640346721704	0.12498647316508793	0.4455497111445807	0.1908647128637297	200	0.20188493853436654	0.32884190496612775	0.6768494902535758	0.38083407850613216	200	0.5701547550098055	0.7081905078252608	0.8814072250084485	0.720534753865286	200	0.8270653845106197	0.892816767226302	0.9605770554679033	0.8942457305006778	200	0.008964640819787316	0.028237855713225096	0.051504934569925824	0.029574690313179733	200	5.0	9.0	10.0	8.125
155	fresh-zh-2	10	11	sqrtJS	16	full_attention	200	0	200	0.3440644766204059	0.5116504959296435	0.702592519018799	0.5206322756764712	200	0.057624995708465576	0.08500373363494873	0.17153594493865965	0.10536864038556815	200	7.678969183860344	11.249454889883909	12.929734635907007	10.561917864766247	200	0.4799355739912715	0.7030909306177443	0.8081084147441879	0.6601198665478905	200	0.015830636730338177	0.028152752798739116	0.07237079286306858	0.04651089632551939	200	0.12516382305205778	0.1733862229785058	0.29591365308423623	0.19928878972405076	200	0.4119472567522575	0.479859237667988	0.609922620484741	0.49941370888429515	200	0.6884653752354623	0.7337170812536673	0.806508031618447	0.743431284538109	200	0.06520874060840567	0.09888416782934102	0.12499918941467338	0.09649088118711639	200	11.0	12.0	13.0	12.26
156	fresh-zh-2	11	12	Q	8	linear_attention	400	0	400	0.7174284402281046	1.0416490640491247	1.6478107027709485	1.1249526698328554	400	0.17227262109518052	0.27689214050769806	0.43004508018493653	0.2909380738995969	400	5.645621815275392	6.449926361869339	7.081045764542591	6.3950593222030445	400	0.705702726909424	0.8062407952336674	0.8851307205678238	0.7993824152753806	400	0.018539604804619934	0.03433205988684744	0.05957535883532161	0.037465116468104596	400	0.20954179962414277	0.25607916430871275	0.3162627244999324	0.26137338519311787	400	0.3681165974330923	0.4202829622993868	0.48368482937354046	0.42253120718389603	400	0.6296631177812888	0.6771907016777992	0.7221899386211221	0.6768252797300872	400	0.10119994197081049	0.12883133220282608	0.15892517191080624	0.12913024163230447	400	7.0	7.0	7.0	6.91
157	fresh-zh-2	11	12	K	8	linear_attention	400	0	400	0.49749523624777797	0.8568938840180635	1.4117163300514224	0.9094282926851883	400	0.11540010571479797	0.20011023432016373	0.3489511519670487	0.21609645273536443	400	6.043822515396557	6.659691705846258	7.162028930421003	6.621273616962107	400	0.7554778144245696	0.8324614632307823	0.8952536163026253	0.8276592021202633	400	0.016714559001961008	0.028750999085766917	0.04623794471768899	0.030501910135668765	400	0.19622450418611484	0.2362882154531355	0.28633817947605517	0.23966859516802466	400	0.36052695988212297	0.402609372860689	0.4568736220640487	0.4066498018362549	400	0.631065015164643	0.6722803808079466	0.7075053507232126	0.6709150642442728	400	0.09945442003098852	0.12928909497119184	0.1583392140054965	0.12956230568957544	400	6.0	7.0	7.0	6.8925
158	fresh-zh-2	11	12	V	8	linear_attention	400	0	400	0.4062795072793961	0.7250700024887919	1.2533206272870305	0.7944815246178769	400	0.08800399526953698	0.1751338243484497	0.34314029514789585	0.2023499442823231	400	5.560829936103033	6.534286012569197	7.312159895626337	6.474463807889226	400	0.6951037420128792	0.8167857515711496	0.9140199869532921	0.8093079759861532	400	0.013438285259616456	0.03204447142635929	0.06266360213087237	0.03558724800804042	400	0.19200364281979748	0.24485629673412312	0.32306643322221906	0.250047916450663	400	0.3534570192916535	0.41497908154087076	0.48734722106830203	0.41812027094957654	400	0.619070358765415	0.6768373505910974	0.7363101659596577	0.6773377562745833	400	0.09251150706101313	0.1282973289698882	0.16825673005136343	0.1289814285863814	400	6.0	7.0	7.0	6.825
159	fresh-zh-2	11	12	QKV	8	linear_attention	400	0	400	0.6409212961792946	0.9385962951928377	1.391756034642458	0.9910722961556166	400	0.14541933834552764	0.2368302196264267	0.3563231647014618	0.24466401603072882	400	6.004525983549825	6.6566621214750725	7.192973786348265	6.6209618926149565	400	0.7505657479437281	0.8320827651843841	0.8991217232935331	0.8276202365768696	400	0.016028066812898065	0.028829088196442303	0.04747548231989689	0.03058199008525468	400	0.20350660364092346	0.2448744209666256	0.2918471482228204	0.2470682383466615	400	0.36413013360327506	0.4029667037814628	0.45444828835227585	0.40555786196274096	400	0.6220582413985967	0.6659411751820361	0.7064438399770928	0.6652486300829922	400	0.10525267936265847	0.1334787753736142	0.16317027406969137	0.133907188587801	400	7.0	7.0	7.0	6.935
160	fresh-zh-2	12	13	Q	16	linear_attention	400	0	400	0.4648180345073342	0.7350729533936828	1.1088959102518858	0.7650471870714682	400	0.06437505260109902	0.11736167967319489	0.25465229451656346	0.1422804689593613	400	7.980607377033428	11.69533179776774	13.321869667541915	11.138351863842743	400	0.4987879610645892	0.7309582373604837	0.8326168542213697	0.6961469914901715	400	0.013402279730941831	0.024537814695054873	0.06699203686475938	0.03406569641233204	400	0.11447574139603847	0.15820473462153312	0.27973523586790683	0.17874642243132513	400	0.392272832364534	0.45739460679120136	0.5735496447742738	0.47132516990443224	400	0.6741650432014945	0.7229972387716781	0.7920757180625667	0.7272785659305004	400	0.06116814672095206	0.09315098707856558	0.11986461303196094	0.09183475945491533	400	11.0	12.0	13.0	12.2075
161	fresh-zh-2	12	13	K	16	linear_attention	400	0	400	0.43644047863781454	0.6150440508499742	0.885837840847671	0.640159845474991	400	0.05348301939666271	0.08606762066483498	0.1327272593975067	0.0909001738904044	400	10.609696154103341	12.677616228772958	13.779588089416505	12.451936450178504	400	0.6631060096314588	0.7923510142983099	0.8612242555885316	0.7782460281361565	400	0.01074251880213756	0.01747113164489639	0.033870302586026545	0.019924547551512118	400	0.10672404038918985	0.13686365831458364	0.18391520984723583	0.14209401828396476	400	0.37475586358785146	0.4261177217387738	0.4922604500991559	0.4284380684141332	400	0.6509313499019318	0.692884525846071	0.7518473928618353	0.6974306846052744	400	0.0717460074820675	0.10794732069578737	0.12984648555232933	0.104066446898042	400	12.0	13.0	13.0	12.565
162	fresh-zh-2	12	13	V	16	linear_attention	400	0	400	0.36192337833344934	0.5174503484740853	0.7629639335907996	0.5474714133900125	400	0.04824961759150028	0.07939847931265831	0.13315983563661576	0.08685986062511802	400	9.416840673020513	11.963123635883033	13.475963072157349	11.701761853101697	400	0.588552542063782	0.7476952272426896	0.8422476920098343	0.7313601158188561	400	0.012486612733137557	0.022496222617642822	0.04660576524349302	0.0265630736741483	400	0.11357027502476336	0.14645015983607937	0.21395648293594152	0.15786361487844705	400	0.3901281183551474	0.4464846042842139	0.5343827986199315	0.45641917160208023	400	0.667675179684965	0.7184796332470252	0.7843973217928247	0.7228146271539679	400	0.06160708989755437	0.09363440932785222	0.1244287677160627	0.0930533610389719	400	11.0	12.0	13.0	12.2225
163	fresh-zh-2	12	13	QKV	16	linear_attention	400	0	400	0.5083688435144722	0.6778793437406421	0.8920387076213957	0.6910350280703278	400	0.06358577683568001	0.09565698355436325	0.17257534116506582	0.10821326026692986	400	9.546250098573243	12.668280726527051	13.866791143715597	12.116743592150112	400	0.5966406311608277	0.7917675454079407	0.8666744464822248	0.757296474509382	400	0.010255757542072967	0.017533130541037473	0.0450700642902495	0.023622794630316815	400	0.10727398089184224	0.13726020547040674	0.23141649962308064	0.1546448287677016	400	0.3705335079787574	0.42385824880839074	0.5177988070129703	0.43508470169750696	400	0.6465405269444289	0.694501294792569	0.7639983296374885	0.7000638327140604	400	0.06860611407223591	0.10774452428590514	0.13226573060963456	0.10396430090013592	400	12.0	13.0	13.0	12.555
164	fresh-zh-2	13	14	Q	16	linear_attention	400	0	400	0.4082620666828007	0.6566769070923328	1.018225465901196	0.6778513106654281	400	0.060181866958737375	0.11023851484060287	0.19894797205925002	0.12176891996059566	400	8.465786961617345	11.010122526973724	12.841313146668348	10.829122823069454	400	0.5291116851010841	0.6881326579358578	0.8025820716667718	0.6768201764418409	400	0.016398566466760522	0.03021388275218973	0.059333211474918546	0.034832449791367355	400	0.12627338408154037	0.16737049937173804	0.24848779552751718	0.17725217971336002	400	0.42015753979296167	0.48840600325812433	0.5763641912598081	0.49370033299612603	400	0.6906021369610973	0.7502718674030113	0.8098964045049183	0.7499606583242077	400	0.0612625858578231	0.08823254408201074	0.1209825393944216	0.089736052274174	400	11.0	12.0	13.0	12.0525
165	fresh-zh-2	13	14	K	16	linear_attention	400	0	400	0.40258807097561655	0.6888491520658135	1.04599779099226	0.7074872706833412	400	0.06099251806735993	0.11867357045412064	0.21612842828035359	0.13288111188448964	400	8.550091775949394	10.603605615750073	13.054449071229888	10.692637264481775	400	0.5343807359968371	0.6627253509843796	0.815903066951868	0.6682898290301109	400	0.015042387981758307	0.03392805593006953	0.05808833287790811	0.036103055147632034	400	0.12579778146789344	0.1826946560538557	0.25023844797455763	0.18546139728183023	400	0.4158988941830746	0.49949255961975103	0.5748123811750302	0.4985183844562073	400	0.6796276595523479	0.7463054550056908	0.806235716460511	0.746261222118471	400	0.06230411210279405	0.09264426374823544	0.13081666588860644	0.09397789079780448	400	11.0	12.0	13.0	12.195
166	fresh-zh-2	13	14	V	16	linear_attention	400	0	400	0.3138166696764529	0.5111526020336896	0.9712537154555322	0.5927337607345544	400	0.04693476036190987	0.09419038519263268	0.21543557941913608	0.11742577834054828	400	7.690330185508457	10.698868383418674	13.027735809722708	10.523291425166436	400	0.48064563659427856	0.6686792739636671	0.8142334881076693	0.6577057140729022	400	0.015209940458594914	0.0330323622138592	0.07203578349589589	0.039829669314783656	400	0.1250311956787199	0.18004793163259486	0.288645541884859	0.19300949855023955	400	0.41326130327374505	0.4972096256826726	0.5896553816791079	0.49829991715721805	400	0.6811902030439273	0.7530399083664919	0.8137324247319694	0.7481367493999028	400	0.06007598713202279	0.08774736808701211	0.12451700490227277	0.09020101363237004	400	11.0	12.0	13.0	12.0925
167	fresh-zh-2	13	14	QKV	16	linear_attention	400	0	400	0.4332016982138157	0.672470421064645	0.9907066495157779	0.6982732560791192	400	0.06542271301150324	0.11074889078736305	0.20875086784362792	0.12477353234775364	400	8.730181880390525	11.161445519311744	13.194518068324355	11.058342691881542	400	0.5456363675244078	0.697590344956984	0.8246573792702722	0.6911464182425964	400	0.0141749930928718	0.02890040528809597	0.055514833536948416	0.03248472471492419	400	0.12174845187124765	0.16877728175672818	0.23896452146384592	0.17640131659257577	400	0.41250834581093465	0.4807066693548065	0.5599759311850458	0.4845135485442798	400	0.6769636787814528	0.7403742557581983	0.7973600027543113	0.738784916000768	400	0.06489034692144789	0.09614467525649267	0.13260979497935801	0.09773683295902462	400	11.0	12.0	13.0	12.3525
168	fresh-zh-2	14	15	Q	16	full_attention	200	0	200	0.7097749772481621	0.947596563026309	1.1964474111795425	0.9440132132906001	200	0.1114270530641079	0.1416826918721199	0.17911817282438278	0.14351837493479253	200	10.161813035420382	11.605214187888468	12.747865354967766	11.531399366258693	200	0.6351133147137739	0.7253258867430292	0.7967415846854854	0.7207124603911683	200	0.017007482555948486	0.025246054184940317	0.038301624523822866	0.026543792843746708	200	0.12881754102864462	0.15163818040351373	0.18279252284558042	0.1540963114084707	200	0.4297963230223656	0.4685074815533062	0.5310776117248441	0.4747106030949773	200	0.6928057218186365	0.7284095430613645	0.7824124093499073	0.734117788134923	200	0.06545981601255141	0.09307498876917272	0.12078652786122779	0.09387293696692543	200	11.0	12.0	13.0	12.28
169	fresh-zh-2	14	15	K	16	full_attention	200	0	200	0.46462449607206513	0.6070328595815226	0.9176525236340239	0.6582317644450814	200	0.08328344970941544	0.12113402411341667	0.3236641436815262	0.17590652227401735	200	5.281462830282894	8.308699378019789	10.48050251405668	8.067440658021955	200	0.3300914268926809	0.5192937111262368	0.6550314071285425	0.5042150411263722	200	0.035120035114892624	0.061715949077460135	0.13529919761295675	0.07381718642926435	200	0.16553471768371036	0.2276893460589769	0.36716577844031073	0.24986084540992035	200	0.515340575317463	0.6027966234087128	0.6947292687498511	0.6061065107187212	200	0.7731339627412669	0.8269406759418431	0.8733333931630004	0.8250958771375296	200	0.033964985073823624	0.04852964649217477	0.07672307216966229	0.05181347697354823	200	9.0	11.0	12.0	10.54
170	fresh-zh-2	14	15	V	16	full_attention	200	0	200	0.43608817551285034	0.5877294522942975	0.7734893830027431	0.5942687213839963	200	0.08769998326897621	0.1380266696214676	0.26393826007843013	0.16245035119354725	200	5.665778145193463	8.085009761817142	10.301194964516224	7.995298297429854	200	0.35411113407459144	0.5053131101135714	0.643824685282264	0.4997061435893659	200	0.03690271985272979	0.06526534695629435	0.12160415428480058	0.07414630896374609	200	0.1771804094764731	0.26162794853663407	0.3634528346867949	0.2644792932033537	200	0.5191888591619367	0.590894168680582	0.6677577884978555	0.5926082526576955	200	0.7605760194967105	0.8007709284103918	0.8472835710348634	0.8034318327313571	200	0.03868931178641103	0.06046588427295689	0.08614074502141783	0.062023290527878014	200	10.0	11.0	12.0	11.12
171	fresh-zh-2	14	15	QKV	16	full_attention	200	0	200	0.6588485824642702	0.7985384785570204	0.9420318270102144	0.8033623660623561	200	0.11081496700644493	0.15258733183145523	0.21193956583738327	0.15762553729116915	200	7.865406633211771	9.933724253112251	12.03145499226041	9.954708294043309	200	0.4915879145757357	0.6208577658195157	0.7519659370162757	0.6221692683777068	200	0.021989867739256368	0.04071173031049086	0.06894840633322505	0.04300444815259835	200	0.14215656997081155	0.18820013325602533	0.26432110425775074	0.1973612923287556	200	0.467392659436809	0.5320164441979365	0.5976185966363394	0.5322297243982639	200	0.7199498207634355	0.7742148498107582	0.8182871099556205	0.7707348312245728	200	0.05028904003853427	0.0762599505403896	0.10466600239162002	0.07766264171257939	200	11.0	12.0	13.0	11.72
172	fresh-zh-2	14	15	JS	16	full_attention	200	0	200	0.01512076747858373	0.03115562235143443	0.06729762715403921	0.03770122548443737	200	0.004175087762996554	0.010222150478512049	0.03169021606445312	0.01672638167743571	200	2.5900783850252123	4.94621318500099	7.172146776592252	4.879790595054058	200	0.16187989906407577	0.30913832406256186	0.4482591735370158	0.30498691219087865	200	0.08205806728514975	0.14899000249238348	0.3451619100824118	0.1963934973272972	200	0.23590396148789686	0.35123879999721785	0.5772594587058741	0.3826099775251893	200	0.6510318304649428	0.7716097737657366	0.9082652232970603	0.7783450016384065	200	0.8792237458343642	0.9305443298912011	0.9751178867676571	0.929992078179312	200	0.004606125769961684	0.01396851584265563	0.030066682752376825	0.01600288792364242	200	4.0	7.0	9.0	6.895
173	fresh-zh-2	14	15	sqrtJS	16	full_attention	200	0	200	0.40327895022928717	0.5365054130088538	0.7292719057761132	0.5568849647592288	200	0.06461491361260414	0.10110463947057724	0.17801222801208494	0.11628661843016744	200	6.907880354399288	9.898420046463862	11.712565489288654	9.519281348602632	200	0.4317425221499555	0.6186512529039914	0.7320353430805409	0.5949550842876645	200	0.024403667524334528	0.041095185414681816	0.08774647100017062	0.0545292239919708	200	0.14136737762319898	0.1893759313449372	0.28623818724530736	0.20715795888301936	200	0.4635272175302825	0.532743655826585	0.6539505442689656	0.5486530923641578	200	0.7286047244913315	0.7788100167488672	0.8538148259340307	0.7870064222228049	200	0.04632639967097977	0.07189789721739584	0.10056367831479326	0.07256751745330087	200	10.0	12.0	13.0	11.375
174	fresh-zh-2	15	16	Q	8	linear_attention	400	0	400	0.24864988159388304	0.5586209930479527	1.0401263266801835	0.6069363517162856	400	0.05456886254251004	0.12792111933231354	0.2952774703502655	0.15306296054273844	400	5.770045212263006	6.717669513394278	7.29714490719177	6.638969277331126	400	0.7212556515328757	0.8397086891742848	0.9121431133989713	0.8298711596663908	400	0.013759924378304356	0.027269886414615967	0.05521026064645765	0.030706885065304793	400	0.18956146714875144	0.23293141593020006	0.31087134276634326	0.2412391608391436	400	0.3550328751768729	0.4028104585302471	0.46734903905943137	0.40598104465865803	400	0.6161506342212062	0.6610330547008453	0.7168799284119467	0.6652155509463867	400	0.10571194051484507	0.14007724562423712	0.17248942104426962	0.13932954589801697	400	7.0	7.0	7.0	6.945
175	fresh-zh-2	15	16	K	8	linear_attention	400	0	400	0.3425259537994862	0.5605677645653486	0.9642518062144518	0.6109333288157359	400	0.06600420996546745	0.12057865411043167	0.23575374633073806	0.1364766418421641	400	6.284037060122268	7.037543929720813	7.441061326159853	6.94106453134625	400	0.7855046325152835	0.8796929912151016	0.9301326657699817	0.8676330664182812	400	0.010730778788841027	0.01953717890525121	0.03900956966782832	0.022623884629199082	400	0.17747353254130885	0.2099090813793001	0.2661498332253229	0.21698598720005893	400	0.33874312447757576	0.3787292206687007	0.4425003066188576	0.3850160825486165	400	0.6064605630188723	0.6473724201468627	0.7010343348116326	0.650374956677681	400	0.11369260031897471	0.1492940943319821	0.17510217681120963	0.14684269256281496	400	7.0	7.0	7.0	6.985
176	fresh-zh-2	15	16	V	8	linear_attention	400	0	400	0.33883479349315165	0.49067915976047516	0.7781152866780758	0.537251534841489	400	0.0661492258310318	0.1042998768389225	0.16803258061408996	0.11695922539569438	400	6.407051522559302	7.017860494346861	7.362485155716969	6.925213526031905	400	0.8008814403199127	0.8772325617933576	0.9203106444646211	0.8656516907539882	400	0.012369951644084026	0.019992653703159502	0.035517775869395765	0.022994177009203982	400	0.17931915163200834	0.20665791209772116	0.2571470550933987	0.21400623366144877	400	0.34023314145529765	0.37792878914551137	0.4358666533560006	0.3839579797072345	400	0.6184365700382437	0.6490237659799967	0.698243795827725	0.654650834291582	400	0.11162342273857608	0.14300708343479834	0.16776378952868728	0.14137951810338809	400	7.0	7.0	7.0	6.945
177	fresh-zh-2	15	16	QKV	8	linear_attention	400	0	400	0.38741979040205476	0.5657934974879026	0.910742022097111	0.6129876199923455	400	0.07668954432010651	0.12373138591647148	0.2402814731001854	0.13864466551691293	400	6.368793846914508	7.025786703013708	7.387370721666261	6.9435758599412205	400	0.7960992308643134	0.8782233378767135	0.9234213402082826	0.8679469824926526	400	0.011847039451803317	0.01980893527045586	0.03658934924168583	0.022339064833749908	400	0.182912063833162	0.21526690923081016	0.2632164789024179	0.2201973147615579	400	0.3437481148078461	0.37940296373262683	0.434492051867025	0.3843095921040423	400	0.6116607807300233	0.6449124359115901	0.6920372637657842	0.6487444832858305	400	0.11730154955556021	0.14904086442650377	0.1741916647309261	0.14751417544030165	400	7.0	7.0	7.0	6.9875
178	fresh-zh-2	16	17	Q	16	linear_attention	400	0	400	0.09445429259212688	0.3330305354902521	0.6300873909145593	0.35232617048794057	400	0.013591364864259959	0.04826712794601917	0.09376184791326524	0.05331744477152824	400	10.161172040523313	12.080246441309388	13.366395755751512	11.846574030085183	400	0.6350732525327071	0.7550154025818367	0.8353997347344695	0.7404108768803239	400	0.013135449852026252	0.021631753441770426	0.038308155351018225	0.02470932494893005	400	0.11512093368636908	0.14511243305142957	0.19228778304674032	0.15156475087273022	400	0.3959751959537893	0.44891053428666305	0.5184686620837203	0.455973149025203	400	0.6783074816880845	0.7259297800612412	0.7787749747757304	0.7271356315444375	400	0.07351917756231743	0.09849444816016227	0.12295651832947312	0.09871549142563925	400	12.0	12.0	13.0	12.4075
179	fresh-zh-2	16	17	K	16	linear_attention	400	0	400	0.3555954312905669	0.4691151543520391	0.6366063117049635	0.48882711899990683	400	0.045802701637148856	0.06492159515619278	0.09854218289256098	0.06984606887679547	400	10.784806195149393	12.291668252787948	13.526664860218462	12.202059169589552	400	0.6740503871968371	0.7682292657992468	0.8454165537636539	0.762628698099347	400	0.012189925442819327	0.020112992031461552	0.03223792389198978	0.021571073580244637	400	0.11196684740687264	0.13800857600295957	0.18228591974122593	0.14327362168769173	400	0.39404247803126224	0.4414605419003263	0.49904920023268706	0.44402687988877376	400	0.671489071663334	0.7166874732675121	0.76115670179838	0.7166256876029167	400	0.08100476492872255	0.1029005910102415	0.12740614907155628	0.10303927259724248	400	12.0	13.0	13.0	12.5425
180	fresh-zh-2	16	17	V	16	linear_attention	400	0	400	0.30306056414265187	0.43522794684395194	0.6135100118350238	0.4507261173709412	400	0.0417540330439806	0.06939461827278137	0.10665249302983285	0.07370163979008794	400	8.827249157789842	11.65355058249649	13.07479970261715	11.268648592961451	400	0.5517030723618651	0.7283469114060306	0.8171749814135719	0.7042905370600907	400	0.01491521048992218	0.024864808512287267	0.05417150642889014	0.030883704140377846	400	0.11985205786177057	0.15033578757521107	0.22751606588936885	0.16358233988972515	400	0.4063767005069789	0.4665859689745926	0.5659985660339018	0.47852696574711495	400	0.6865106069309234	0.7427978399983297	0.8101035524571346	0.7450460448412782	400	0.058907354068096426	0.09283249991209644	0.11678752802122565	0.0904307666997741	400	11.0	12.0	13.0	12.1075
181	fresh-zh-2	16	17	QKV	16	linear_attention	400	0	400	0.3363911425229162	0.4552599131129682	0.5883902822155506	0.46049709479673767	400	0.04440656490623951	0.06268422305583954	0.0890053138136864	0.06520735373720526	400	10.640427424213355	12.405638203641868	13.49641390222488	12.231781648517819	400	0.6650267140133347	0.7753523877276167	0.843525868889055	0.7644863530323637	400	0.012366721083767839	0.01931574322495353	0.03358005081346356	0.02144345314865029	400	0.11355263461077202	0.1357367886467502	0.1761219271462543	0.1421765764855809	400	0.3914154684341705	0.43695698272678124	0.5046466809379332	0.4433029364732691	400	0.6703475422451087	0.7152187196005687	0.7654984361556008	0.7173421133521961	400	0.0798484359289908	0.10357157794877164	0.12668348949891034	0.10374395964444898	400	12.0	13.0	13.0	12.555
182	fresh-zh-2	17	18	Q	16	linear_attention	400	0	400	0.1226691393298097	0.36147017194889486	0.5818089807871729	0.3540648076915386	400	0.024929285049438477	0.08050834760069847	0.13572832942008975	0.08136557938531042	400	6.93896881298955	9.537098674929744	11.661970203117695	9.402233284212386	400	0.4336855508118469	0.596068667183109	0.728873137694856	0.5876395802632741	400	0.024798724534623597	0.045177272200546376	0.08705875631654728	0.051768609571302644	400	0.1705293584592322	0.22210662033084488	0.31747853930100234	0.23201714022243503	400	0.45089993313094884	0.5184210730765397	0.6200332761872304	0.5269981441938874	400	0.6974683834354041	0.7461505028593447	0.8144960123799418	0.7511065096398988	400	0.060643572256052714	0.08957196532466774	0.12198213765927611	0.09095809517026986	400	11.0	12.0	13.0	12.1
183	fresh-zh-2	17	18	K	16	linear_attention	400	0	400	0.19490073614288125	0.3274110041093081	0.4664688227698207	0.3297938077621802	400	0.04472722373902798	0.07343719154596329	0.10741687789559365	0.07637801371514798	400	7.555860961928367	9.318749955493983	11.107362382531626	9.346887474973633	400	0.47224131012052295	0.5824218722183739	0.6942101489082266	0.584180467185852	400	0.029365849699411545	0.04779808704484728	0.07450409766001101	0.04998138141232276	400	0.18414481635182506	0.23334921275842735	0.2806722098457578	0.23451272626257072	400	0.46357790736603127	0.5168493836462402	0.5968661023740877	0.5242895199027334	400	0.7029334359671282	0.7424617956157007	0.8019086896726701	0.7467872524102458	400	0.06657680915799008	0.09377956788172392	0.12029771212046857	0.09337794569345953	400	11.0	12.0	13.0	12.235
184	fresh-zh-2	17	18	V	16	linear_attention	400	0	400	0.2934502001851797	0.39912510151043534	0.5174729821388611	0.4047692112044024	400	0.09749863445758819	0.12414421513676643	0.15401251018047332	0.12416316639166325	400	5.038564560821192	6.84185470418899	8.95978173056595	7.007019991857028	400	0.3149102850513245	0.4276159190118119	0.5599863581603719	0.43793874949106426	400	0.052383852892791564	0.08923647929204578	0.14503411984649814	0.09236964792966995	400	0.2409126134233609	0.30608287171527376	0.40377312461326387	0.31315867245676465	400	0.5254419071946036	0.5991636954591414	0.6798072659377953	0.6003078898882682	400	0.7443839611331483	0.7915122901305436	0.8450080838566334	0.7936948160322159	400	0.0487087549708656	0.07587324789221103	0.09884728461044955	0.07519609760455154	400	10.0	12.0	12.0	11.52
185	fresh-zh-2	17	18	QKV	16	linear_attention	400	0	400	0.29398879918735477	0.3750228965654969	0.48529430138878527	0.3857895018589625	400	0.07874351963400841	0.09750906378030777	0.12123734056949616	0.09934341276064515	400	6.951435027987448	8.432224500016428	10.146284632487387	8.514828667233033	400	0.4344646892492155	0.5270140312510267	0.6341427895304617	0.5321767917020646	400	0.03846234967817875	0.05983218995178738	0.08677887056518972	0.061287499371776875	400	0.2139946033890815	0.2603432486226124	0.31297290727257504	0.26096849136490174	400	0.48203587586463564	0.5411831537102381	0.6186965811506501	0.5462950208160391	400	0.7173549642805743	0.7548581887216801	0.8130010259623329	0.7600862523848175	400	0.0622795898222382	0.08835012463963018	0.1149141783751941	0.0882475123247091	400	11.0	12.0	13.0	12.05
186	fresh-zh-2	18	19	Q	16	full_attention	200	0	200	0.40503120101056994	0.5028677717782557	0.612515045888722	0.505402263617143	200	0.05769512243568897	0.08007610216736794	0.10372484102845192	0.08085989257320762	200	10.48549202320829	12.08531815382366	13.132081825304432	11.958726511611918	200	0.6553432514505181	0.7553323846139788	0.820755114081527	0.7474204069757449	200	0.014559355192104564	0.021594730705182065	0.0350611950326472	0.023274466726017694	200	0.1318316271507269	0.15768979903170172	0.19497668503474405	0.15998315774759458	200	0.4143940693475607	0.45017401534471846	0.507595150134935	0.4552125765543622	200	0.6658417785989769	0.706894163471876	0.7455587623980972	0.7047817209291677	200	0.10244972282154999	0.1205462444205549	0.14435799317186915	0.12263518954948081	200	13.0	13.0	14.0	13.075
187	fresh-zh-2	18	19	K	16	full_attention	200	0	200	0.24221688634715974	0.31452087173238397	0.4046083310618996	0.3193610634095967	200	0.045973315462470056	0.06273973360657692	0.09917145818471906	0.06787015929818153	200	8.036370622749583	10.014142860527388	11.495391997186315	9.766300901367732	200	0.502273163921849	0.6258839287829617	0.7184619998241447	0.6103938063354832	200	0.02612420621532505	0.03985277323767919	0.0660781553099645	0.048112532343058255	200	0.16333885802039474	0.1983673422972086	0.2591638887113507	0.21397288050852384	200	0.47597161670898996	0.5317482705366685	0.5930921133800963	0.5370099012204113	200	0.7198316678216097	0.7578224563138349	0.7912789184585522	0.7589081603063189	200	0.08314563099626963	0.10030959633138392	0.12085481682745897	0.09949625474526165	200	12.0	13.0	13.0	12.5
188	fresh-zh-2	18	19	V	16	full_attention	200	0	200	0.219464371772483	0.2803905897308141	0.4177178148180246	0.3227898630872369	200	0.043733523413538936	0.053726617246866226	0.06885573938488958	0.05766161188483238	200	10.102204406133366	11.490776082827278	13.111335719139854	11.522210342292077	200	0.6313877753833353	0.7181735051767049	0.8194584824462409	0.7201381463932548	200	0.014687947408494988	0.02616198204898496	0.038921239336181926	0.026724411572927237	200	0.15024668851850015	0.1849362979756537	0.21859909014579687	0.18295310416096044	200	0.4032218916229758	0.45713703207054	0.5141414231586733	0.45774826331708107	200	0.6458577812228684	0.684933156698807	0.7367127613882485	0.6901858682662803	200	0.1066450601564698	0.13335088715478763	0.15786431375570556	0.13350750822035157	200	13.0	13.0	14.0	13.32
189	fresh-zh-2	18	19	QKV	16	full_attention	200	0	200	0.3294968142639846	0.3965512770228088	0.4856201363261789	0.4079517453722656	200	0.04950256980955601	0.061345502734184265	0.07889391258358952	0.06428984832018614	200	10.639726795051333	12.040430001644602	13.003814968129394	11.896175732781762	200	0.6649829246907083	0.7525268751027876	0.8127384355080871	0.7435109832988601	200	0.015360558173858537	0.021923786352624507	0.03358655348373444	0.02352446999362818	200	0.13557158666803165	0.15121115195854967	0.19280496233177397	0.1576780838303767	200	0.4227330702463845	0.4588547213598372	0.5105609907031137	0.46196181567596517	200	0.666401987984752	0.7140073510868454	0.7397872355751911	0.7096373145971054	200	0.09936859000570922	0.1181786828259131	0.14117991197913995	0.12074725231935556	200	12.0	13.0	14.0	13.01
190	fresh-zh-2	18	19	JS	16	full_attention	200	0	200	0.0032219047937360303	0.008727351967536379	0.014426813827594741	0.008820296328706831	200	0.000962602801155299	0.003277353127487004	0.0074657529126852746	0.0038093298792955467	200	2.507341334910479	4.477504812221616	6.281203520584329	4.464567491200771	200	0.15670883343190495	0.279844050763851	0.39257522003652057	0.2790354682000482	200	0.10315228033370576	0.17156138441682822	0.35876087690123126	0.20615982106380534	200	0.2601172774806182	0.3719046340678134	0.6014802552390575	0.4050797685287161	200	0.6989415753564249	0.8121332768210971	0.8872430146730127	0.800883430708973	200	0.9016709446595074	0.9414718953816446	0.9677019058950461	0.936942245580977	200	0.0074748144061829395	0.01428673427781333	0.02403330531498279	0.01530508423302874	200	5.0	7.0	8.0	6.69
191	fresh-zh-2	18	19	sqrtJS	16	full_attention	200	0	200	0.1801991507643834	0.27761521888896823	0.3554695088416338	0.27363203835324384	200	0.031025007553398612	0.05724814906716347	0.08640452027320862	0.05799578634090721	200	7.334868986779317	9.412911961385927	11.077758879926002	9.36214126871173	200	0.4584293116737073	0.5883069975866204	0.6923599299953751	0.5851338292944831	200	0.029622701960780155	0.046653341153934144	0.0787574263658076	0.050307644538884484	200	0.15641748139966435	0.1969667030021279	0.28189193173812366	0.20965446579842933	200	0.4930179417021164	0.5578293720615657	0.6167904546741356	0.5545430430302752	200	0.7463542328960098	0.7865632191004863	0.8257781520688219	0.7867799748411661	200	0.06078319793718209	0.07615962590512901	0.09195109644556287	0.07667649122156311	200	11.0	12.0	12.0	11.6
192	fresh-zh-2	19	20	Q	8	linear_attention	400	0	400	0.21508374549448492	0.5137318698689342	0.8095862653106451	0.5110034689609892	400	0.05792464315891266	0.13033463805913925	0.27519477903842926	0.14895880213938653	400	4.3819586456215625	6.017533519381162	6.8519280520768895	5.797861515507205	400	0.5477448307026953	0.7521916899226453	0.8564910065096112	0.7247326894384006	400	0.023936374496984693	0.047064097325120686	0.11795251774476971	0.06080436203703736	400	0.20859178786860513	0.27265141899623846	0.39654388543955693	0.2894650706168785	400	0.3791282476318722	0.45449854615605156	0.5681392614664926	0.4675485302617241	400	0.655418862758822	0.7193698040441492	0.8104280062026928	0.7283010855111249	400	0.06287880287561806	0.10257799040047749	0.13276625473307394	0.10049228189793982	400	6.0	7.0	7.0	6.475
193	fresh-zh-2	19	20	K	8	linear_attention	400	0	400	0.3427822642959654	0.5048338016495109	0.7881359469145537	0.5454670517286285	400	0.0829150527715683	0.14131422340869904	0.23521096855401996	0.15315406411886215	400	4.911879786919975	5.901373501250659	6.823242737487929	5.8532807064405805	400	0.6139849733649969	0.7376716876563324	0.8529053421859911	0.7316600883050726	400	0.024637585478146127	0.05080252054429725	0.08981635383197598	0.056645582446445644	400	0.20378490756400489	0.27358861276508073	0.36690619572963945	0.2799069249472273	400	0.3829667237758037	0.46298412617076984	0.5406730375392912	0.4646270621183692	400	0.6674417390852442	0.7312380982647706	0.7885197384753848	0.730605152188823	400	0.07488810289498735	0.09869312354057228	0.12902218406422897	0.10048224958950708	400	6.0	6.0	7.0	6.4425
194	fresh-zh-2	19	20	V	8	linear_attention	400	0	400	0.32972691711038354	0.48440330661833286	0.6789735980331898	0.49958652374509255	400	0.09193616211414338	0.12836939841508865	0.17157514542341232	0.13098743319511413	400	5.000756979560625	6.051076668892893	6.789549280380749	5.957479040345568	400	0.6250946224450781	0.7563845836116116	0.8486936600475936	0.744684880043196	400	0.025468781366201745	0.046011273704211014	0.08567988267912352	0.051665490547663	400	0.21128526954801474	0.26144100848979157	0.3395312924942187	0.2691798739672016	400	0.39506932309986503	0.45706279089909957	0.5394562271356179	0.46124843155852474	400	0.6641761654777416	0.7295426248186352	0.7866718082456551	0.7268695616593093	400	0.07619679033640862	0.10085283293724095	0.13390191581457864	0.10338244059518958	400	6.0	7.0	7.0	6.51
195	fresh-zh-2	19	20	QKV	8	linear_attention	400	0	400	0.38525272272527217	0.5362839074805379	0.7381349332630635	0.5451388669759035	400	0.0965897113084793	0.14157231897115707	0.213453708589077	0.15015659496188163	400	4.922100649057225	6.078426748611697	6.7823487381929155	5.964063396523909	400	0.6152625811321532	0.7598033435764622	0.8477935922741144	0.7455079245654886	400	0.025647498001710387	0.04516144218484122	0.08933190147795704	0.05227826199450467	400	0.21631362388828146	0.26545717202408103	0.3576051413367827	0.27600571663142187	400	0.3838206674834326	0.45324502750876	0.5359666313199962	0.45756213040415333	400	0.661495287235009	0.7211589259372411	0.7836710108285425	0.7217076288292066	400	0.07647427260789201	0.10371297876202508	0.13281400260502527	0.1039282969644982	400	6.0	7.0	7.0	6.54
196	fresh-zh-2	20	21	Q	16	linear_attention	400	0	400	0.10304542187368497	0.18540286284405738	0.5109435369260609	0.2405839985096827	400	0.015901263803243637	0.026190352626144886	0.08744883015751839	0.037909609344787897	400	10.040861265204287	11.913571146703452	13.123788089770242	11.710052273507058	400	0.6275538290752679	0.7445981966689658	0.8202367556106401	0.7318782670941911	400	0.01461068294478387	0.02286708073796547	0.03956611239332996	0.025503104133089014	400	0.12111623131238412	0.14767706658981455	0.19178790608156493	0.15300698989277303	400	0.41199169714094985	0.46308137735745003	0.5349818250884552	0.4685322732736497	400	0.6863506290532629	0.7255715115350507	0.7785222291004409	0.7293508652428403	400	0.0776104582270633	0.10078321164690446	0.12054050159329259	0.09975993820457407	400	12.0	13.0	13.0	12.4725
197	fresh-zh-2	20	21	K	16	linear_attention	400	0	400	0.21153694412205368	0.3370554861612618	0.4722403896506876	0.347156229307584	400	0.03031688090413809	0.05145837925374508	0.07830771803855897	0.055411372890230265	400	9.879459254420492	11.682024705390262	12.868192743014005	11.515045769575977	400	0.6174662034012808	0.7301265440868914	0.8042620464383753	0.7196903605984986	400	0.016225056484297035	0.024641711250146366	0.04130150171518798	0.027227095213540133	400	0.12431170982791663	0.14888633517991134	0.20967343368917718	0.15904126477403646	400	0.4213490816677721	0.47204729710719506	0.5324938352650782	0.4741402249553876	400	0.6942610972930997	0.7318381445513076	0.7681195633640776	0.7322326672854055	400	0.08223156982562664	0.09974593787774501	0.11683251668170767	0.09970676913028458	400	12.0	12.0	13.0	12.4525
198	fresh-zh-2	20	21	V	16	linear_attention	400	0	400	0.25448002079501747	0.33734766487032175	0.48101746896281844	0.35774384666641706	400	0.03685517683625221	0.05452725104987621	0.10371628552675248	0.06208037775475532	400	8.485617938460706	11.498552572886286	12.962185097254881	11.005043368961585	400	0.5303511211537941	0.7186595358053929	0.8101365685784301	0.6878152105600991	400	0.0156239864572188	0.026098635827590207	0.0590373200550462	0.034194447478901394	400	0.1232091361837478	0.15588210786453166	0.24859857978566055	0.17349321067389994	400	0.41800668150827985	0.4789534372257378	0.5785416960894778	0.49080687118265415	400	0.6894330266362995	0.7371233314608696	0.7955036321677438	0.7407626795801121	400	0.0723536338515867	0.09488413526003528	0.11590655219014549	0.09447652341728534	400	11.0	12.0	13.0	12.29
199	fresh-zh-2	20	21	QKV	16	linear_attention	400	0	400	0.24738598219119012	0.32032593665644526	0.4463034125044942	0.33773504111915825	400	0.036656650528311734	0.05000334046781063	0.0799660623073578	0.05475362613331527	400	9.628383600355354	11.612754879894869	12.818492427825559	11.384977532329312	400	0.6017739750222096	0.7257971799934293	0.8011557767390974	0.711561095770582	400	0.016546447079225247	0.025186361613840233	0.04411692730333632	0.028426675120830858	400	0.1248618433701965	0.15305463347382775	0.2206374854934659	0.16339800769931917	400	0.4274384049423568	0.4723972098022552	0.5398562534436137	0.4782124330546534	400	0.6958397222095623	0.7313340856922378	0.7726626289521457	0.7333113211598637	400	0.08060534832717549	0.09896946954288474	0.11601362660290662	0.09913390190415494	400	12.0	12.0	13.0	12.4425
200	fresh-zh-2	21	22	Q	16	linear_attention	400	0	400	0.06882400247268379	0.18573116953484714	0.3417895504739136	0.19976254678345867	400	0.008275804482400418	0.021871909499168396	0.05014982260763649	0.03415667988359928	400	11.53338278844459	13.792799943032323	14.559627926701252	13.235170147817184	400	0.7208364242777868	0.8620499964395202	0.9099767454188282	0.827198134238574	400	0.006595294774001043	0.010668368357011362	0.025819334935722433	0.019645070015268003	400	0.10079100224811331	0.12300982419171573	0.1785470977113007	0.14065775531096097	400	0.3536825296093656	0.38913870660580163	0.4563822598814049	0.40233657768886316	400	0.6217019126771438	0.6487547887609069	0.7124549021261866	0.6599026439763519	400	0.10609889149215687	0.14534908394769802	0.16286836837277346	0.13977136511469054	400	13.0	14.0	14.0	13.47
201	fresh-zh-2	21	22	K	16	linear_attention	400	0	400	0.12104345322586596	0.23283731169067323	0.3578012593556196	0.23653698855865513	400	0.015482682920992377	0.027707722038030624	0.04692872315645219	0.030609547620406373	400	12.209475786281681	13.718788301032	14.654972039056808	13.54949104198799	400	0.7630922366426051	0.8574242688145	0.9159357524410505	0.8468431901242494	400	0.006118642885511519	0.01108558538043812	0.02069747750651923	0.012538671388088356	400	0.09938112874720664	0.12272737716083175	0.1707865146552365	0.12908202086747686	400	0.3535306625396771	0.3903328504248249	0.43731792371885814	0.39327674229700643	400	0.6187657935730863	0.6551218826756682	0.6858540984771537	0.6538674303318862	400	0.1184405240862148	0.14566001010113805	0.16434477076615162	0.14354063043055493	400	13.0	14.0	14.0	13.5925
202	fresh-zh-2	21	22	V	16	linear_attention	400	0	400	0.15004875496961176	0.22157417214475572	0.3262884737923742	0.2326084670861019	400	0.017553484439849852	0.029581760056316853	0.04784855768084526	0.03201089103007689	400	11.474212133810969	13.439853596161646	14.347590617520165	13.093910583757301	400	0.7171382583631856	0.8399908497601029	0.8967244135950103	0.8183694114848313	400	0.007677988259530112	0.01269927728211313	0.026295530734713204	0.01609332024515764	400	0.10530787981043532	0.12665281092913822	0.18835361687215538	0.13892302081483077	400	0.359531339034474	0.40470571095549857	0.46519365299238413	0.4092468009260294	400	0.6326578863228246	0.6633027289735123	0.7059341314523627	0.6663453437999372	400	0.11156727204679956	0.1390167564476057	0.15730004544676104	0.13643011966573246	400	13.0	13.0	14.0	13.405
203	fresh-zh-2	21	22	QKV	16	linear_attention	400	0	400	0.15914542502723633	0.22510805120691657	0.31633296282961965	0.23658636618521997	400	0.019032919034361842	0.028000143356621265	0.04804670289158821	0.0344468352664262	400	11.95667753916341	13.745969464986537	14.598963630333644	13.352497291946415	400	0.7472923461977131	0.8591230915616586	0.9124352268958528	0.8345310807466509	400	0.006397880505664693	0.010931853868594639	0.022544294756478046	0.01578307453826965	400	0.09887806792057371	0.12466353348354708	0.17719463457939236	0.13631433232841927	400	0.35319149936210925	0.3914826475911559	0.44710681105569816	0.3982467478053253	400	0.6238262192048054	0.6514924336106952	0.6909869701161078	0.6558849388771258	400	0.11863972786289936	0.14608225758231444	0.16280632146758137	0.14293468858867048	400	13.0	14.0	14.0	13.59
204	fresh-zh-2	22	23	Q	16	full_attention	200	0	200	0.3663093815790489	0.4459937726496719	0.5909654686227441	0.4641306163536501	200	0.05626216419041157	0.08478598669171333	0.15513627529144283	0.09579937724396587	200	8.060869493090234	10.166767162297202	11.919316132141498	10.090913186669624	200	0.5038043433181396	0.6354229476435751	0.7449572582588436	0.6306820741668515	200	0.022823940753937108	0.038250331330052637	0.06566540717310967	0.041919581722297344	200	0.1377878541184072	0.1914478746767771	0.266630418197491	0.2001405225405304	200	0.4477244572239665	0.5155118295324064	0.5807146420264798	0.5139650922066674	200	0.7213904604665722	0.7567208381152651	0.7943420764739438	0.7572643605811561	200	0.05940194695495365	0.08243452363013759	0.1020097427749334	0.08178921648097236	200	11.0	12.0	13.0	11.83
205	fresh-zh-2	22	23	K	16	full_attention	200	0	200	0.34670295999385425	0.4595507131598424	0.640807054657489	0.4635155391111039	200	0.09416036754846574	0.14216911792755127	0.213063508272171	0.151237925440073	200	5.35434945996427	6.708372923294132	8.513620827933241	6.787457748583879	200	0.3346468412477669	0.4192733077058832	0.5321013017458276	0.42421610928649245	200	0.05862300032790808	0.09233903515062016	0.13255331528135744	0.09608886765725147	200	0.23888827508493102	0.3292894637945016	0.39130248330263434	0.32315702193155876	200	0.552844368582166	0.5964123074210952	0.6557452330915107	0.5972552385323177	200	0.7834214335094696	0.8121461600193804	0.840694013400649	0.8117203352348517	200	0.04119351933710362	0.062157479351489575	0.07525054107634731	0.06008881955618765	200	10.0	11.0	12.0	11.0
206	fresh-zh-2	22	23	V	16	full_attention	200	0	200	0.23345311305602084	0.2993957453290932	0.4970016268664039	0.33736590946442446	200	0.0518654689192772	0.10119126364588737	0.25077765882015224	0.13101759046316147	200	3.4331677399617866	5.930392238714632	8.49810179097805	5.862621956199848	200	0.21457298374761166	0.3706495149196645	0.5311313619361281	0.3664138722624905	200	0.05885211205675477	0.11319788923692634	0.24417404771421825	0.14043483524261244	200	0.22221848318885984	0.3428125720414256	0.5099584990605941	0.36012249946296426	200	0.5889063731709081	0.6756813694430817	0.7790410184439118	0.6834247171073744	200	0.8077367068851568	0.8538294752473312	0.9010914356878797	0.8527344583989407	200	0.03092599917273619	0.04640051538915988	0.06807046784921209	0.04891952940709511	200	8.0	10.0	11.0	9.96
207	fresh-zh-2	22	23	QKV	16	full_attention	200	0	200	0.33836357791442423	0.43763377936556935	0.5444308941019699	0.444455892132537	200	0.07637957483530045	0.1244831420481205	0.21034854501485822	0.13109229957684876	200	5.704836845565464	7.681773575478758	9.900431518716248	7.692501569460188	200	0.3565523028478415	0.48011084846742236	0.6187769699197655	0.4807813480912618	200	0.0410727895256019	0.07219018256859389	0.12030961605504087	0.07904438930688229	200	0.20460037665902386	0.28543954657863846	0.3743948821036761	0.2877652193445346	200	0.5205230142876641	0.5828079036475049	0.6447792654653233	0.5822370229148761	200	0.7659429372615634	0.7960861698590243	0.8323762151950365	0.7969292281607114	200	0.045599628145957256	0.07020308719780469	0.08575859071507999	0.06773132437934061	200	10.0	11.0	12.0	11.29
208	fresh-zh-2	22	23	JS	16	full_attention	200	0	200	0.0007367950744956887	0.00772236482562505	0.01609503587471863	0.00822785697112763	200	0.00028562566149048507	0.0036876266822218895	0.009380965214222669	0.004447453631291865	200	1.9799851413106009	2.9869010799867652	4.352054934982288	3.102468910118243	200	0.12374907133191256	0.18668131749917283	0.272003433436393	0.1939043068823902	200	0.1784295163937018	0.29044817210863744	0.47205792347631015	0.3141883179825297	200	0.34939824391502955	0.4899743034386207	0.6879486427401185	0.5101724534354644	200	0.8297345313004074	0.9041209886600927	0.9574739533921884	0.8961743464279366	200	0.9497207380272148	0.9759621593939646	0.9900062278066352	0.9725891211013746	200	0.0013486610062881663	0.0042507848975992	0.011009112195801963	0.005332989943601728	200	3.0	4.0	6.0	4.42
209	fresh-zh-2	22	23	sqrtJS	16	full_attention	200	0	200	0.07260303560906324	0.23694017919478938	0.30805367498251146	0.21687023622929702	200	0.016900292597711086	0.060725798830389977	0.09685527831315995	0.06006529964040965	200	5.325534666811308	7.062343284874409	8.729592759987023	7.017189744398395	200	0.33284591667570673	0.44139645530465055	0.5455995474991889	0.43857435902489966	200	0.05552307967244228	0.08436913727368543	0.13362625792397423	0.09300369715738753	200	0.20715641115806013	0.2658266403035652	0.3515270913709329	0.27525113136498064	200	0.5768886759222794	0.6532001293957612	0.7380530980760734	0.6556035301474417	200	0.8010733283871241	0.8517030914115188	0.8938012135357822	0.8501187743965459	200	0.0280943046160524	0.046067984663694855	0.06711216303038915	0.04665465452250071	200	9.0	10.0	11.0	10.015
210	fresh-en-1	0	1	Q	16	linear_attention	400	0	400	2.234930998273194	3.5310883498750627	4.6527290633879606	3.469649436067848	400	0.41280797123908997	0.8332870602607727	1.209194898605347	0.8354474094882608	400	6.226367467443348	8.139899293210867	10.510365405652692	8.18054595445664	400	0.38914796671520924	0.5087437058256792	0.6568978378532933	0.51128412215354	400	0.034820814169823515	0.06437513148421117	0.10464783173077424	0.06911764366069677	400	0.16843947008601867	0.23012941521497365	0.32827907476462276	0.240249907140078	400	0.507709366121756	0.6023417748356543	0.6949911487259492	0.6030826432864502	400	0.7521558717432947	0.8138294155386356	0.8701449698306754	0.8112156140811752	400	0.03815905125688387	0.06297055750476736	0.09611574582932063	0.06490486028917865	400	10.0	11.0	12.0	11.0175
211	fresh-en-1	0	1	K	16	linear_attention	400	0	400	2.6672797936946155	3.425931252539158	4.5168875466100875	3.524958591017639	400	0.489157047867775	0.6667049527168274	0.9598093152046206	0.7105951488763094	400	7.773096798822127	9.21570544596814	11.478127920136487	9.411324637121325	400	0.48581854992638296	0.5759815903730088	0.7173829950085304	0.5882077898200828	400	0.026263782535248418	0.04907777647301703	0.07055878795953471	0.04951417146096089	400	0.1536270424935471	0.1943972618510333	0.2586597019235089	0.201790065585419	400	0.4702001079767811	0.5670607842769645	0.6468327655968112	0.5600256623955385	400	0.7240993364085627	0.7893527719767768	0.8405807624921381	0.7852669490279997	400	0.048173260955288955	0.07166116040510198	0.0979250143869214	0.072823507184225	400	10.0	12.0	12.0	11.4825
212	fresh-en-1	0	1	V	16	linear_attention	400	0	400	1.6181118641979992	2.6892965445294976	4.556001805514098	2.970108881509077	400	0.2978472948074341	0.5580625236034393	1.102718198299408	0.677044918499887	400	6.352610433718244	8.778607005749569	11.404983940324158	8.815547892286256	400	0.39703815210739024	0.548662937859348	0.7128114962702599	0.550971743267891	400	0.02685969798896445	0.054840842425672894	0.10124352178696013	0.06065345569593322	400	0.15031578023950862	0.21015335814611086	0.30510330548762044	0.22146373954243845	400	0.4689738279110144	0.5706814381429993	0.6804917009819806	0.5767158032949978	400	0.7385965063342251	0.8096059756201381	0.8721097435170654	0.8067382010773199	400	0.03293960185396647	0.06087632626720197	0.0882869201475248	0.061249493470910375	400	9.0	11.0	12.0	10.9375
213	fresh-en-1	0	1	QKV	16	linear_attention	400	0	400	2.734647191502154	3.3793744368012995	4.43082140609622	3.520445009493269	400	0.5053462266921998	0.7177450358867645	1.01717768907547	0.7542269672453403	400	7.593485629853883	8.982527779648695	10.561354533006119	9.036272746571104	400	0.4745928518658677	0.5614079862280434	0.6600846583128824	0.564767046660694	400	0.03433048089562333	0.05208238818291653	0.07380461636970538	0.053516467141441114	400	0.16797489114982522	0.20667639999959206	0.2679313288961226	0.21318120192819542	400	0.49818285974571835	0.5755689018982981	0.6515263212168357	0.5746907963534565	400	0.7351683944811394	0.7969288402708317	0.8450067977184706	0.7925291609314834	400	0.04653508246529315	0.07042835489747537	0.09824510164814938	0.07151269004665935	400	10.0	11.0	12.0	11.4425
214	fresh-en-1	1	2	Q	16	linear_attention	400	0	400	0.4932698825286934	1.0213602213189006	1.6281458265148103	1.0659803825702694	400	0.08536823317408562	0.20087481290102005	0.38239128291606905	0.22786430266685784	400	7.016876538589014	9.213822806373706	11.164212981295533	9.181035817026496	400	0.4385547836618134	0.5758639253983566	0.6977633113309708	0.573814738564156	400	0.028876716779932716	0.04910184659778931	0.08534791137694102	0.053861621600688706	400	0.14451681620107873	0.19255139381257563	0.2763586186224678	0.20400164197210358	400	0.4788120046845227	0.5490563135957811	0.6429579124172133	0.5532461573490183	400	0.7493208500239771	0.8154344096519979	0.8899122047395697	0.818275563824142	400	0.01821186446497532	0.052334861114869034	0.08013902218047589	0.051337913255023085	400	9.0	11.0	12.0	10.4925
215	fresh-en-1	1	2	K	16	linear_attention	400	0	400	0.7984649914782495	1.1629895486403257	1.7354826693423095	1.2208493195035408	400	0.11778525412082673	0.19534742832183838	0.4292791157960893	0.24494460735470056	400	7.695978599585112	9.888124659408357	11.83680499946064	9.796729351936944	400	0.4809986624740695	0.6180077912130223	0.73980031246629	0.612295584496059	400	0.02344774271655922	0.04120684031683605	0.07193403343239543	0.046350168567002754	400	0.13253593648974718	0.17377125547815958	0.26944248566215007	0.19146204771406913	400	0.4477017522745427	0.5198989814740866	0.6051887150208005	0.5232734592764924	400	0.7355654627186871	0.7908391563493042	0.8813063391472371	0.7972375229561662	400	0.02322053734091502	0.060272258327300224	0.09060879268146069	0.05924438361702439	400	9.0	11.0	12.0	10.87
216	fresh-en-1	1	2	V	16	linear_attention	400	0	400	0.5248587501700968	1.0819192812778056	1.9770300139207393	1.1859704301759484	400	0.09696745052933693	0.20412401109933853	0.43642934262752536	0.24929563925601542	400	7.0074239445394175	9.114729800784406	11.391004846100728	9.148809454012484	400	0.4379639965337136	0.5696706125490254	0.7119378028812955	0.5718005908757803	400	0.02697466606518288	0.050360024193146447	0.08555317096717797	0.05513230238403486	400	0.1387922507717615	0.19145725407235945	0.2817647128892312	0.2037644935932714	400	0.46503744103682637	0.5561711120190782	0.6458764365310309	0.5563113581367254	400	0.7437048128449286	0.822518016356446	0.9070976014349672	0.8222166396198135	400	0.017000051400460736	0.049588532382416464	0.08641712655785642	0.05027575701830296	400	8.0	11.0	12.0	10.3875
217	fresh-en-1	1	2	QKV	16	linear_attention	400	0	400	0.7995891033613589	1.1612361561274156	1.7709278389811516	1.2402550661597342	400	0.1203035831451416	0.2050672098994255	0.3727079629898072	0.23898614736273885	400	7.963857490650867	9.888763036555027	11.841037769838795	9.881150120146764	400	0.49774109316567916	0.6180476897846892	0.7400648606149247	0.6175718825091727	400	0.023415603549033437	0.0411998762044576	0.06727178425682435	0.04454462898444515	400	0.13096510156449193	0.17470327702462282	0.25301981863755385	0.18590808871671968	400	0.4453974403840927	0.5183547634691132	0.591629820201727	0.5212573713438974	400	0.7280081183938285	0.7906337811310362	0.8790847538668738	0.7978887665102706	400	0.022839348819696004	0.06085974901084702	0.09160044560494329	0.05911894241895917	400	9.0	11.0	12.0	10.865
218	fresh-en-1	2	3	Q	16	full_attention	200	0	200	0.948799574363511	1.3145958668319508	1.764732945081778	1.3375451209355378	200	0.26402898132801056	0.3268849402666092	0.41940989196300504	0.3360720041394234	200	6.070270692698609	7.955288576687888	10.616733320086226	8.230375248220831	200	0.3793919182936631	0.497205536042993	0.6635458325053891	0.5143984530138019	200	0.033803723033825506	0.06741639882994804	0.10905313187222014	0.06943344719137264	200	0.1841855079953235	0.2545527535195912	0.34150651751935435	0.2594988540111153	200	0.4796707066968893	0.570146309923004	0.6625415744944808	0.5701600312163876	200	0.7513670141266213	0.8197962962918505	0.9033098802201723	0.8209732150259172	200	0.01245702187643904	0.045927958651912064	0.0806873403515382	0.046497614439233226	200	8.0	11.0	12.0	10.4
219	fresh-en-1	2	3	K	16	full_attention	200	0	200	1.0109024198900443	1.2307273106416687	1.609445944591425	1.3076426881743828	200	0.25361414849758146	0.31249481439590454	0.36692607998847954	0.3102434882521629	200	6.998705849878572	8.349572622676755	10.365628707007733	8.576305709125535	200	0.43741911561741076	0.5218482889172972	0.6478517941879833	0.5360191068203459	200	0.03623825147277862	0.061085228602307924	0.08576149902501261	0.060964982350360096	200	0.19415825673965206	0.24470573276556162	0.2871765057209829	0.24090295050963667	200	0.47765319903405207	0.5681173459011286	0.661245240865997	0.5658402826014348	200	0.7579121530518969	0.8237095466228523	0.9002946162473934	0.8237018166672861	200	0.013345774344385795	0.04020804644596182	0.07181708669559908	0.04387554096067126	200	8.0	11.0	12.0	10.34
220	fresh-en-1	2	3	V	16	full_attention	200	0	200	1.174977968283929	1.4640721594914794	2.2168957058340313	1.5379768557913485	200	0.28450166285038	0.3321179151535034	0.4153254747390744	0.3424178659915924	200	7.203112711988059	8.82285433092217	10.558721022460047	8.896391024601092	200	0.45019454449925367	0.5514283956826356	0.6599200639037529	0.5560244390375683	200	0.034359517538111096	0.05423463634129673	0.081434205057719	0.056334825370769795	200	0.1801661729241178	0.2302969127972347	0.27514746940500384	0.2285761381612623	200	0.4846144489350299	0.5512079487733337	0.6434725919014037	0.5585333361548663	200	0.7366312354020832	0.8008326702210231	0.884389902679427	0.8032060818073257	200	0.015420266335058818	0.05351963470302416	0.08885071719981696	0.05408025950667003	200	9.0	11.0	12.0	10.86
221	fresh-en-1	2	3	QKV	16	full_attention	200	0	200	1.1010740990925114	1.3543728347722208	1.8310944105382077	1.4172562011762784	200	0.2824027270078659	0.3214397579431534	0.3999712496995926	0.33167507566511634	200	7.051466896914471	8.452564179047128	10.582944184630527	8.717685363378575	200	0.44071668105715445	0.5282852611904455	0.661434011539408	0.5448553352111609	200	0.034124609663255125	0.059527793142735264	0.08460267987083449	0.059096589201155805	200	0.19049060067661536	0.24169465643832275	0.28761437780167387	0.23929467458421333	200	0.4733027615244746	0.5589565563114933	0.6517027008846887	0.5584453388754818	200	0.7445807477412757	0.8094723748407489	0.8941137978363501	0.8111042453298671	200	0.014149877714614578	0.04733354365090493	0.08122643701197324	0.04911841556807503	200	9.0	11.0	12.0	10.68
222	fresh-en-1	2	3	JS	16	full_attention	200	0	200	0.03657998311018673	0.06375922867209738	0.13071855896851048	0.07590858518343452	200	0.017119598388671876	0.03612196817994118	0.088840002566576	0.04750879812519997	200	1.3517448154556186	2.7036518264869738	4.922167708676823	2.9735965507494266	200	0.08448405096597617	0.16897823915543586	0.30763548179230144	0.18584978442183916	200	0.1500401072024709	0.3278649442112621	0.7224388057118413	0.3764720703865471	200	0.37722934025425736	0.584493422319244	0.8574665387411939	0.5955056245592193	200	0.720753322212144	0.8402769636062397	0.9366637648614378	0.8338450409046326	200	0.8986704348182338	0.9500650508651199	0.9800354476704709	0.943634389750679	200	0.004016308725895021	0.01166079986047167	0.023390373518317843	0.013164300579311177	200	3.0	6.0	9.0	5.92
223	fresh-en-1	2	3	sqrtJS	16	full_attention	200	0	200	0.5252659021643922	0.7200451572425663	0.9775034859310835	0.7384794788464205	200	0.1308414176106453	0.19005780667066574	0.29805870950222013	0.20634597267955543	200	4.794488709749097	8.205655685427681	10.553169124508095	8.009031013569468	200	0.29965554435931857	0.5128534803392301	0.6595730702817559	0.5005644383480917	200	0.03440937443169004	0.06332576025209877	0.15581127173801881	0.0780638007280054	200	0.1883847248399948	0.2682357262649282	0.42470076515085625	0.28363085772702634	200	0.49196037242739715	0.5682752056098923	0.6521272322138194	0.5669872715332271	200	0.7415683566855604	0.7903184435067119	0.8402944752219776	0.7894673620889282	200	0.05013157079692451	0.0726078709155922	0.095399863961596	0.0727427586290444	200	10.0	12.0	12.0	11.435
224	fresh-en-1	3	4	Q	8	linear_attention	400	0	400	0.6302353186532855	1.1633159555494785	2.6859279543161394	1.4234560057288035	400	0.13086697906255723	0.2523481994867325	0.9357782542705538	0.3734714508987963	400	4.383198816307348	6.696189453983499	7.283896320271379	6.401085543894203	400	0.5478998520384185	0.8370236817479374	0.9104870400339223	0.8001356929867753	400	0.01404475587313086	0.02781565428533014	0.11788175231154865	0.042358775790364754	400	0.18575378664789088	0.22255037191057692	0.33922301411408406	0.2421743045740307	400	0.3524755893172402	0.40569014759217903	0.6114095392857971	0.4310910646621672	400	0.6207783981983105	0.6765808068366589	0.8192517033580835	0.6908469294748969	400	0.06848843453388288	0.1273126600131304	0.16097731206917185	0.12399106304632061	400	6.0	7.0	7.0	6.755
225	fresh-en-1	3	4	K	8	linear_attention	400	0	400	0.7813272688537837	1.111222743988037	1.8391675867140296	1.214278789209202	400	0.15109480023384095	0.24492792785167694	0.43217862844467175	0.27287121130153535	400	5.987418858461102	6.911509401153365	7.364946802214619	6.7625808079952385	400	0.7484273573076378	0.8639386751441707	0.9206183502768274	0.8453226009994048	400	0.012318067921093941	0.02249851833851752	0.048020415420338275	0.02805273039436909	400	0.1780769246386972	0.20959856577888136	0.2749948617242884	0.2205960331691984	400	0.34033086231471443	0.38414510127490453	0.47210531273047385	0.39728468651716853	400	0.6191136328757632	0.6645397695013465	0.7263376296229	0.6675540183860753	400	0.10104444378861584	0.13444139693809745	0.1631149293432282	0.13336421373680626	400	7.0	7.0	7.0	6.9075
226	fresh-en-1	3	4	V	8	linear_attention	400	0	400	0.6016671929508448	1.0942686591297388	2.0394407607615	1.2276800348144024	400	0.14361953884363174	0.27152132987976074	0.5094483792781831	0.30339992376044395	400	5.5165883677438625	6.316489463861998	7.129061453791907	6.317421319928843	400	0.6895735459679828	0.7895611829827498	0.8911326817239884	0.7896776649911054	400	0.017452482404810076	0.03807533032707222	0.0643102365004019	0.039890088080244156	400	0.19088940744593189	0.24409814792243176	0.3092172537329375	0.24692371281523873	400	0.36263943305493457	0.43297148796065926	0.5058827611379061	0.43460504711625303	400	0.6379878588705928	0.7003844085412088	0.7559172749534665	0.6985543461258836	400	0.08894995346497382	0.11722317104633828	0.14874281474397755	0.11774612696945606	400	6.0	7.0	7.0	6.7775
227	fresh-en-1	3	4	QKV	8	linear_attention	400	0	400	0.8022432696074248	1.233229048550129	2.08050045222044	1.3658459807001053	400	0.1619195520877838	0.2708732634782791	0.6182220220565796	0.3241461719945073	400	5.016798247960995	6.819850935603542	7.276329876831179	6.595217795095848	400	0.6270997809951244	0.8524813669504427	0.9095412346038974	0.824402224386981	400	0.014207959176424883	0.024720881761060576	0.08494898609970297	0.033888299236001646	400	0.1819836350199073	0.2153251911428649	0.30612910375822694	0.22891742313977897	400	0.34864937689559816	0.39507204655668515	0.5526575667900605	0.4145404676041477	400	0.6233396079460133	0.6694136573472989	0.7732361047681235	0.678222176825968	400	0.08875942024456161	0.1327630917024994	0.15817161280058456	0.13001912991476752	400	6.0	7.0	7.0	6.86
228	fresh-en-1	4	5	Q	16	linear_attention	400	0	400	0.5661739772418514	1.033524300903082	1.548737435415387	1.0487494651833549	400	0.07677488327026367	0.155758835375309	0.28011648654937743	0.16980655890889465	400	9.54058196238418	11.563004274180736	13.034847721078421	11.449623798232153	400	0.5962863726490113	0.722687767136296	0.8146779825674013	0.7156014873895096	400	0.015165402251029645	0.02558156261450213	0.04513649543366974	0.028092598404531807	400	0.11772207118899897	0.15330654570551983	0.21473730098518573	0.15949296593598414	400	0.408405519488417	0.4672246275226445	0.5331915149756827	0.468262158216055	400	0.6815111071027325	0.7377848861387815	0.7908779380323566	0.7359790336775207	400	0.05668044193959548	0.08783713953036076	0.11980524321628522	0.08880168565433808	400	11.0	12.0	13.0	12.1025
229	fresh-en-1	4	5	K	16	linear_attention	400	0	400	0.6336847476661206	0.9515199940651655	1.3863349615596234	0.9780880847004301	400	0.08260805755853654	0.13552476465702057	0.23456682860851288	0.14650706651620568	400	10.439608141500683	12.080067106841595	13.448528931885292	12.001902712517099	400	0.6524755088437927	0.7550041941775997	0.8405330582428308	0.7501189195323187	400	0.012648100339200219	0.021633068318002303	0.035508306202475026	0.02332027475352894	400	0.11447453838353698	0.1405098994254031	0.1929915829477523	0.1483610316117159	400	0.3903108699302229	0.44735735197598236	0.500028661529038	0.44912106278242936	400	0.6736427389622814	0.720935236380688	0.7701319886219794	0.7191552692253345	400	0.06575611924543241	0.09578784114035244	0.13047202911319872	0.09687318871048539	400	11.0	12.0	13.0	12.3675
230	fresh-en-1	4	5	V	16	linear_attention	400	0	400	0.3309630745323375	0.7136850020033307	1.6051203388720752	0.8373229334133794	400	0.05630024708807469	0.11041045933961868	0.2880571067333222	0.14496010718867183	400	8.94148971568207	10.822653477115722	12.748692361240215	10.833477778076572	400	0.5588431072301294	0.6764158423197326	0.7967932725775134	0.6770923611297858	400	0.017002045119772557	0.03189209693025585	0.0526275707115471	0.03383457575533693	400	0.12740913570226398	0.16342687899664543	0.22097331528843098	0.17146103671826857	400	0.42262395318296647	0.49338072208399364	0.5586564342871563	0.4936577956625194	400	0.6948036998118188	0.7575450949049569	0.8141788763919582	0.7556197234006445	400	0.04588552139353022	0.07646246560030266	0.11457910754686676	0.0789859277402695	400	11.0	12.0	13.0	11.7825
231	fresh-en-1	4	5	QKV	16	linear_attention	400	0	400	0.6764165816130117	0.9491521252784878	1.4874159729108216	1.019960219575587	400	0.09058723673224449	0.13297109305858612	0.2412927031517029	0.15182253638282417	400	10.551028192725887	12.171941840187177	13.521055583087918	12.079058229642094	400	0.659439262045368	0.7607463650116986	0.8450659739429949	0.7549411393526309	400	0.012222641676116286	0.020966629665107612	0.03442934124906131	0.022584076082535383	400	0.11438074086551075	0.1415356176230052	0.18719380459025742	0.14692944830759347	400	0.3942103796029329	0.443952376087206	0.4990856825982414	0.4464748110851218	400	0.668005795100958	0.7149668152520021	0.7689533198016711	0.7164119723581883	400	0.06517239428564398	0.09687386971886072	0.13574425639454216	0.09878377784354246	400	12.0	12.0	13.0	12.42
232	fresh-en-1	5	6	Q	16	linear_attention	400	0	400	0.7682637390680611	1.1547599723562598	1.569871773198247	1.1581397689768347	400	0.10521993413567543	0.17117173224687576	0.27427761256694794	0.18747375680133702	400	9.50916937846209	11.99832555853395	13.444038522158142	11.70992515950617	400	0.5943230861538806	0.7498953474083718	0.8402524076348838	0.7318703224691356	400	0.012674576634574011	0.022234630915170077	0.045505796523784385	0.026324687411875852	400	0.1166679813585501	0.149743468290625	0.21949883914153398	0.16130263591572055	400	0.39733354404507426	0.45121762880172855	0.5384325424157789	0.46037287157335305	400	0.6687125145085518	0.7184613386296534	0.7741422478278941	0.7184242785026582	400	0.07837240424458317	0.10372847255576656	0.13485728812541103	0.1057338280285208	400	12.0	13.0	13.0	12.6125
233	fresh-en-1	5	6	K	16	linear_attention	400	0	400	0.8824158693663776	1.138687500730157	1.5312056209892035	1.172651090574218	400	0.10529714152216911	0.1579534038901329	0.24859169721603397	0.16948231166228653	400	11.122374400302377	12.824449968601705	14.054518441090336	12.666615471031482	400	0.6951484000188985	0.8015281230376066	0.878407402568146	0.7916634669394677	400	0.009228261448636185	0.016507814319700456	0.029236134897620388	0.018388176213125957	400	0.10866851795495212	0.13755310635705964	0.18935214486576998	0.143281900276671	400	0.37587373188771767	0.4245455589083859	0.4819297733510702	0.4279163926056065	400	0.6404680180888239	0.683179887961449	0.7342649586484324	0.6855171244908527	400	0.0954249142915524	0.12478354158782304	0.1521095252994814	0.1234154848653544	400	12.0	13.0	14.0	13.0375
234	fresh-en-1	5	6	V	16	linear_attention	400	0	400	0.600328029692173	1.060917580500245	1.6198514576070016	1.088670219099149	400	0.09182117953896522	0.16631858050823212	0.27578833103179934	0.1759972857683897	400	9.629064485655736	11.646865993303294	13.3881649781128	11.580309188308082	400	0.6018165303534835	0.7279291245814559	0.83676031113205	0.7237693242692551	400	0.01300569703004901	0.024917341397089506	0.04410910254951378	0.027063130896668862	400	0.12008248659517151	0.15588521391184174	0.217150469704818	0.1630437327288194	400	0.3991636528156446	0.46413214973339423	0.5363752981769776	0.4650200921540183	400	0.664589266033564	0.721545676148293	0.7821924083983142	0.7238605905298994	400	0.06902164006677221	0.10247854526412727	0.13444669343255874	0.10158407651603575	400	11.0	13.0	13.0	12.4675
235	fresh-en-1	5	6	QKV	16	linear_attention	400	0	400	0.9287251191213727	1.1830257810652256	1.4929384909570218	1.2071300790470558	400	0.11431095153093337	0.16038694232702255	0.2387257888913155	0.16842043263837694	400	11.309050699988678	12.849975342894167	14.050221972783795	12.77018758581391	400	0.7068156687492924	0.8031234589308854	0.8781388732989872	0.7981367241133693	400	0.009251470667743419	0.01634262982584435	0.027653324228697925	0.017498833204038878	400	0.11030839076921763	0.13414671001229264	0.17469306928174652	0.13900995628154095	400	0.3764104646535905	0.42312704727906564	0.4798279711508895	0.4262346805018312	400	0.6423216705584784	0.6838426029729531	0.725879868362153	0.685144730684903	400	0.09568884194494649	0.12515312729173686	0.15119528742610672	0.1240399041231213	400	12.0	13.0	14.0	13.0675
236	fresh-en-1	6	7	Q	16	full_attention	200	0	200	0.704794529848732	0.8954973140498623	1.1695378178730607	0.9208162792466464	200	0.1738428220152855	0.21330231428146362	0.2548262745141983	0.21514354325830937	200	6.498744607130998	9.073556721814573	10.903215541274744	8.942558875538005	200	0.4061715379456874	0.5670972951134108	0.6814509713296715	0.5589099297211253	200	0.031163800902270482	0.05089107225524822	0.09746805860788076	0.05720957485443558	200	0.17822316353109774	0.22970062248760031	0.33465025538902443	0.24178357527688368	200	0.4745447265307109	0.5376676707461168	0.6040678766489488	0.5395352800605019	200	0.7439194321420506	0.7956452743552107	0.8331478132638561	0.7911566930851651	200	0.03624822054227332	0.058557099771943	0.08073051638287695	0.059066670396006174	200	10.0	11.0	12.0	11.125
237	fresh-en-1	6	7	K	16	full_attention	200	0	200	0.7940170950023457	0.9337106640450656	1.2338959886692464	0.9765308360313065	200	0.16390912234783173	0.2076759785413742	0.25558628737926475	0.21144505679607392	200	8.235824914797698	9.377219017179222	10.874328966367425	9.493418418809252	200	0.5147390571748561	0.5860761885737014	0.6796455603979641	0.5933386511755783	200	0.03143234130466939	0.04708427445851279	0.06285562141828394	0.047040718485792936	200	0.17367197794562914	0.2193201045941068	0.26033378654654454	0.2185938032618412	200	0.47819825841861346	0.5299078290423314	0.5706757414676599	0.5284649050753172	200	0.7429876544186129	0.7886125552801035	0.8182859318605756	0.7838504224339157	200	0.039081856675619774	0.0603137502919301	0.08200966974593603	0.06214234327333388	200	10.0	11.0	12.0	11.24
238	fresh-en-1	6	7	V	16	full_attention	200	0	200	0.9884055231232197	1.1532038510777056	1.3873046927154062	1.1716601063753478	200	0.1760020047426224	0.22081384807825089	0.2761884540319442	0.2278510296344757	200	8.26709590001093	9.970156464183948	11.709943200354465	10.090112921552624	200	0.5166934937506831	0.6231347790114967	0.731871450022154	0.630632057597039	200	0.024431228269953677	0.040319479365850175	0.06235926497435392	0.04108991007612572	200	0.14232486226591323	0.19181935540421316	0.2708529064044339	0.198712324921032	200	0.4589254331538943	0.5119421077228734	0.5646551666984734	0.508416543857184	200	0.7323016078995594	0.7702791821645893	0.8084478140089761	0.7708692957041913	200	0.04484347925458758	0.06700373403981082	0.0896610020970473	0.06768758477225605	200	11.0	11.0	12.0	11.48
239	fresh-en-1	6	7	QKV	16	full_attention	200	0	200	0.8712185150827281	1.0402824106859043	1.223043517023325	1.0408493226702558	200	0.1742448091506958	0.2156040444970131	0.2560519903898239	0.21798965618014335	200	8.02160313162796	9.688187902457031	11.41896365440976	9.741112446786914	200	0.5013501957267475	0.6055117439035644	0.71368522840061	0.6088195279241821	200	0.0267452252926647	0.043433516698653155	0.06630807930044977	0.04465950294188996	200	0.1670947263614369	0.20846820360177704	0.2756778051675545	0.21290386664722902	200	0.46160249039682216	0.5224348477986831	0.5621384075676695	0.5168756794290319	200	0.7373330764017009	0.7815248457473716	0.8182293748928509	0.7767400682036921	200	0.04082117817627321	0.06183648480512356	0.08624314900080425	0.06445718695172137	200	11.0	11.0	12.0	11.425
240	fresh-en-1	6	7	JS	16	full_attention	200	0	200	0.0210299493551247	0.041246538941777544	0.06721432701724551	0.043585980836786435	200	0.006701526325196028	0.01422842824831605	0.04112701267004013	0.01909851892036386	200	1.7860569878673398	4.5360171233995725	7.3734922631087505	4.67952068477081	200	0.11162856174170874	0.2835010702124733	0.4608432664442969	0.2924700427981756	200	0.07799573239916363	0.1684882364505519	0.5305697372661342	0.23399521490718442	200	0.2163755568674938	0.3725131729390068	0.7405501321902432	0.41946526146364504	200	0.6392109590204115	0.7961574337460801	0.9319402144416754	0.7893348187273534	200	0.8923583286138922	0.9466221129758281	0.9795742236133427	0.9393528461758904	200	0.00338059084708163	0.009482982066217775	0.022206033332710727	0.01184926370899521	200	3.0	6.5	9.0	6.34
241	fresh-en-1	6	7	sqrtJS	16	full_attention	200	0	200	0.42382513666525484	0.6078069985378534	0.7762976725120098	0.6047175329021411	200	0.08186280280351639	0.11928264796733856	0.20279795229434966	0.12993449360132217	200	5.2684249272688914	9.284846390697087	11.584071745937548	9.020189238112819	200	0.3292765579543057	0.5803028994185679	0.7240044841210967	0.5637618273820512	200	0.025414074667080077	0.04821633030923124	0.13579863895911298	0.06206218609821719	200	0.13628849605637222	0.19926919792139358	0.3573190311116594	0.22364927416547772	200	0.46442194635302225	0.5545787239127964	0.6535459545865228	0.5606615276495901	200	0.7472960366904517	0.8005331227891845	0.8561625252391857	0.8010191938059725	200	0.04311398972753782	0.06126412435345474	0.08558115694072826	0.06341542019751516	200	10.0	11.0	12.0	11.1
242	fresh-en-1	7	8	Q	8	linear_attention	400	0	400	0.9464878834784031	1.5582775697112083	2.9107058852911	1.7703495920123533	400	0.22571634501218796	0.36515119671821594	0.7337479174137118	0.418825199007988	400	5.637848997727274	6.390615838899661	6.92381149587291	6.322460295813479	400	0.7047311247159093	0.7988269798624577	0.8654764369841137	0.7903075369766849	400	0.022204722105925896	0.03597651159057591	0.05985445470533928	0.039036237734593235	400	0.19729815342566234	0.23558746903598987	0.28426601630860715	0.23892439141863886	400	0.3744167072230134	0.42127290344102886	0.48375565712163293	0.42576413196341584	400	0.6600986840065891	0.7129747388496561	0.7755491152602882	0.7161451590726728	400	0.08717807224644548	0.10753361942941522	0.13259106962929343	0.10864366387310449	400	6.0	7.0	7.0	6.6575
243	fresh-en-1	7	8	K	8	linear_attention	400	0	400	0.29587780246511103	1.3316857907921076	2.1302281618118286	1.3505793981434544	400	0.06175224781036377	0.30029280483722687	0.5300436854362488	0.31198056460823864	400	5.730428692246048	6.436111467312488	7.008285784363738	6.400021282051126	400	0.716303586530756	0.804513933414061	0.8760357230454673	0.8000026602563908	400	0.020215161731297174	0.03471236497481557	0.05657945483029005	0.0369102295558765	400	0.19091308205700228	0.22275899268491542	0.27423060839622876	0.2293708406618569	400	0.36734390377955545	0.4109047477471825	0.483761550443415	0.41863879019956357	400	0.6574117720173502	0.713938634182789	0.766951627194338	0.7145666657366189	400	0.08712661344887594	0.11034598265737908	0.13472906965350992	0.1108709544837883	400	6.0	7.0	7.0	6.74
244	fresh-en-1	7	8	V	8	linear_attention	400	0	400	0.6123314969241619	1.2732290644198656	1.9485007584095002	1.277252502203919	400	0.1477032333612442	0.3260002136230469	0.6659458816051484	0.3689683119766414	400	4.483468942423248	5.7863149132204175	6.767493150175568	5.710281588149037	400	0.560433617802906	0.7232893641525522	0.845936643771946	0.7137851985186296	400	0.02601741806177653	0.05465330811455165	0.11204833987527756	0.06285332811397336	400	0.20827549933278786	0.2612300592887439	0.38986242725355935	0.2809431239976787	400	0.38692017375926524	0.4609215685023522	0.5735366330265104	0.471533302387452	400	0.6731214069425167	0.7510156002949998	0.8286852509543848	0.7520838965871497	400	0.06267121005276431	0.09067035172824107	0.12475182415814548	0.09266975740687243	400	6.0	6.0	7.0	6.325
245	fresh-en-1	7	8	QKV	8	linear_attention	400	0	400	0.931118180602789	1.4962615873664618	2.256703768670559	1.562762504387647	400	0.20242130309343337	0.35793085396289825	0.5517511188983918	0.368903941065073	400	5.624799861092076	6.332871957031749	6.894324056292317	6.293089391789616	400	0.7030999826365095	0.7916089946289686	0.8617905070365396	0.786636173973702	400	0.022910690305291522	0.03760713607041573	0.06032469450155453	0.039984388646460235	400	0.19804511860639032	0.23175319177899278	0.2953012330958894	0.23884446010755894	400	0.37836601710143425	0.42121551022909387	0.48087134422572936	0.4271086421246703	400	0.6706226669881539	0.7251146710314096	0.7764089088582178	0.7229980789228566	400	0.0895136743584083	0.10782311907684719	0.13184682203706802	0.10924205563047348	400	6.0	7.0	7.0	6.665
246	fresh-en-1	8	9	Q	16	linear_attention	400	0	400	0.6070104320533574	0.9067567926831543	1.1999021530151368	0.9119760517461691	400	0.0825454406440258	0.1260710507631302	0.20973798036575317	0.13822114740498365	400	10.265056125706053	12.424898664612584	13.659821630652354	12.163357589789303	400	0.6415660078566283	0.7765561665382865	0.8537388519157721	0.7602098493618314	400	0.011421224708755817	0.019182463004563603	0.037246654788831664	0.022407370325958055	400	0.11157062818954842	0.14051746921552533	0.2027273658479494	0.14962862307951247	400	0.3890636778001099	0.4383249794075981	0.5092158490411423	0.44414624128338837	400	0.6631284831697636	0.7078375137427001	0.7588247426215273	0.7091028344739562	400	0.08445549662116993	0.10884091110247933	0.13445706357614887	0.10915460308997577	400	12.0	13.0	13.0	12.6875
247	fresh-en-1	8	9	K	16	linear_attention	400	0	400	0.6323070602491498	0.8548832177184522	1.1772200994193556	0.8896699144935701	400	0.08282828703522682	0.11520854011178017	0.1833632454276085	0.12645583356730639	400	11.04570487773524	12.65198113751559	13.814199289209286	12.535487732930596	400	0.6903565548584525	0.7907488210947243	0.8633874555755804	0.7834679833081623	400	0.010548571932231885	0.017641606048966488	0.02990184148026892	0.019073353740446174	400	0.11078671461901378	0.1369087925384081	0.177843636786369	0.14159715183787902	400	0.38649372059484693	0.43143297944324893	0.49030923674098414	0.4358539541889845	400	0.6573873705846368	0.6965255522635809	0.7404600071183093	0.6971139947479787	400	0.09289461809305943	0.11826204424381498	0.14291525195667093	0.11880124152779212	400	12.0	13.0	14.0	12.93
248	fresh-en-1	8	9	V	16	linear_attention	400	0	400	0.42908118362538517	0.7514993599615991	1.2147094633430242	0.7961950068455189	400	0.06230545081198215	0.10426175594329834	0.18898674845695496	0.11917674789205193	400	10.387996967089066	12.411267809027702	13.683809156777368	12.170210651725757	400	0.6492498104430666	0.7757042380642314	0.8552380722985855	0.7606381657328598	400	0.011284341988446791	0.0192767535918396	0.03601614703510141	0.022253234644721953	400	0.11100980234413184	0.14039500685822304	0.20002895542572496	0.14959486888672213	400	0.3848289486427891	0.43914656583209405	0.5086486354833948	0.44377163403348624	400	0.6610199499477317	0.705567551389675	0.7567553306241096	0.7075256323645357	400	0.08104022718925673	0.10993018657593058	0.13374696265975647	0.10907694315376375	400	12.0	13.0	13.0	12.695
249	fresh-en-1	8	9	QKV	16	linear_attention	400	0	400	0.6932302778586745	0.8939938908442855	1.1676303837448359	0.9143451267119963	400	0.0818116083741188	0.11631309986114502	0.17395793199539186	0.12413974925875663	400	11.576339528650626	13.106297742226111	14.112753705414308	12.895273568385026	400	0.7235212205406641	0.819143608889132	0.8820471065883942	0.8059545980240641	400	0.00891508754003735	0.01471914409182325	0.025475298029896367	0.016848891123169132	400	0.1045271453356545	0.1291183437967932	0.18017723984847347	0.1360300248562872	400	0.37327479251058987	0.4161979816990303	0.47694368529170406	0.42015087939618573	400	0.6433031231226647	0.681086454830793	0.728392240051663	0.6841948586684446	400	0.09994393934612235	0.12528678116083536	0.14864559017689513	0.12464203221973566	400	12.900000000000006	13.0	14.0	13.07
250	fresh-en-1	9	10	Q	16	linear_attention	400	0	400	0.5911897634156048	0.971417797729373	1.4385213758796456	0.9927398923510918	400	0.07862688973546028	0.14568262547254562	0.258398848772049	0.1655398803856224	400	8.301619620302397	12.424129421285567	14.065394468918116	11.809712500379186	400	0.5188512262688998	0.7765080888303479	0.8790871543073823	0.7381070312736991	400	0.009169578151820953	0.019187780270141216	0.06182346929316535	0.029226845717694877	400	0.1099473669490704	0.14248138560506401	0.2640789801094023	0.16535261853877542	400	0.3751454537343328	0.4365722274271774	0.5615250689219099	0.45259452274673345	400	0.6450473787167641	0.7024583459737376	0.7900427626121447	0.7115994346168725	400	0.06961536755566518	0.11083896103405731	0.1438247252029882	0.10823463941989513	400	12.0	13.0	13.0	12.6125
251	fresh-en-1	9	10	K	16	linear_attention	400	0	400	0.5946242531761528	0.8478443613275886	1.1840944074094295	0.871135561830015	400	0.07446554973721504	0.11519348248839378	0.16995172798633576	0.12028403769247234	400	10.549285512368025	12.972315807446954	14.425008287211448	12.712822515189973	400	0.6593303445230015	0.8107697379654346	0.9015630179507155	0.7945514071993733	400	0.00727898771604036	0.01555976747433167	0.03444604154887297	0.018506599106899665	400	0.10209242735246339	0.12992744304582096	0.19340092297569486	0.13964911344364841	400	0.3592895824498176	0.41231036761758694	0.5098439554283221	0.4227395498424912	400	0.6313341086885862	0.6780047290866777	0.7607935107506781	0.6888854020278815	400	0.0812711923511712	0.12499023766221395	0.14986821912439047	0.11892558068973458	400	12.0	13.0	14.0	12.885
252	fresh-en-1	9	10	V	16	linear_attention	400	0	400	0.46655475879088043	0.694292152300477	1.1977318368852141	0.7830342625826597	400	0.05845900662243366	0.09787659719586372	0.18204079568386078	0.109708200301975	400	10.79670724624694	12.799561081491053	14.098469985754189	12.585144444076532	400	0.6747942028904338	0.7999725675931908	0.8811543741096368	0.7865715277547832	400	0.00899166930099007	0.016669541140850203	0.032128917791397246	0.01915084256542966	400	0.10634733888134494	0.13420035804145325	0.1814061567037344	0.14053209500203084	400	0.3705575396237194	0.4225866918800977	0.4920889905616666	0.4271593782406484	400	0.6446972305378428	0.6932596927957679	0.7563180219386684	0.6969348333017064	400	0.07840079338564739	0.11551890932463348	0.14459395356534224	0.11412406729654365	400	12.0	13.0	14.0	12.7825
253	fresh-en-1	9	10	QKV	16	linear_attention	400	0	400	0.6377313435077667	0.9152962598018348	1.2620975852012637	0.9343612542306073	400	0.07677633911371232	0.11948640644550323	0.19208532124757768	0.13030948131345213	400	10.357105699830317	13.281428814238446	14.563325631726023	12.857813217521873	400	0.6473191062393948	0.8300893008899028	0.9102078519828765	0.803613326095117	400	0.0065766772212237975	0.013645997606642514	0.03632221423452987	0.018165359049485318	400	0.09717792129277648	0.12738703947564595	0.19875304423416926	0.1397535679882335	400	0.3500467030986209	0.40565446005452366	0.4903084005348662	0.41452393551571715	400	0.6224946321414305	0.6713920031240022	0.7545570327695006	0.680820957911161	400	0.083562055059871	0.12944488972430918	0.15645529725672752	0.1245111882230568	400	12.0	13.0	14.0	13.0275
254	fresh-en-1	10	11	Q	16	full_attention	200	0	200	0.6233514178544283	0.8477539476007223	1.1313497941941022	0.864531800642144	200	0.09261990860104562	0.12799295783042908	0.16213646531105042	0.12703987561166286	200	11.083121410511584	12.33530870232173	13.516670229505364	12.303993275644102	200	0.692695088156974	0.7709567938951081	0.8447918893440852	0.7689995797277563	200	0.012248285507573719	0.019806210387773356	0.029575802469652645	0.020589419749336493	200	0.12059200021166196	0.14568953492165526	0.1819297448828569	0.14910866795322417	200	0.40007387310569625	0.43991574423397506	0.4870083295202077	0.44172911545795057	200	0.6633287162181966	0.702975283069781	0.7459089131971716	0.7032529186849978	200	0.08783156294418897	0.11597740218955471	0.13523742874716974	0.11330198812926309	200	12.0	13.0	13.0	12.82
255	fresh-en-1	10	11	K	16	full_attention	200	0	200	0.6800970683805645	0.847108400426805	0.9841707344166932	0.842388323675841	200	0.0932523988187313	0.18622612953186035	0.2628218740224838	0.18055713117122651	200	6.831904644430433	10.135327225600486	12.63554945002832	10.042840061771924	200	0.4269940402769021	0.6334579516000304	0.78972184062677	0.6276775038607453	200	0.017751430611250053	0.038580493450923	0.08946885431236626	0.046074088112288365	200	0.12633302196797447	0.1970723329010813	0.32237500984223744	0.2120215437822686	200	0.4337426493856024	0.5097912751392226	0.5820843687969331	0.5114911555571688	200	0.7047975019694904	0.7459314267217192	0.8060394526965863	0.7514484662784647	200	0.06533122729366882	0.09748410784204035	0.12131077370282961	0.09361191047261495	200	11.0	12.0	13.0	12.22
256	fresh-en-1	10	11	V	16	full_attention	200	0	200	0.7686313582584262	0.9857306042686105	1.1916024396196008	0.9675404566898942	200	0.0949378065764904	0.12796563655138016	0.21206880509853362	0.1381375689804554	200	11.073414657827414	12.676510619831506	13.880663018912692	12.610443800586177	200	0.6920884161142133	0.7922819137394691	0.8675414386820433	0.7881527375366361	200	0.010178904699318604	0.01747881414906011	0.029660328925843533	0.018491370356752187	200	0.10627799103028163	0.1370622484430256	0.19449539198847193	0.14159127914808728	200	0.38537925019478797	0.4288803086713212	0.4663899522615944	0.4283227395377166	200	0.6557914448707022	0.6953265317172332	0.7364893087064365	0.6973511955899485	200	0.09234897368639247	0.1197079753559683	0.1391725013906082	0.11682758756430534	200	12.0	13.0	14.0	12.9
257	fresh-en-1	10	11	QKV	16	full_attention	200	0	200	0.7310712728649378	0.9247950157150626	1.100934425368905	0.9188851007819175	200	0.09555794224143029	0.14651821553707123	0.1867323637008667	0.14397828802466392	200	10.181497428447223	12.162679164102345	13.51513785670134	11.95559962381206	200	0.6363435892779514	0.7601674477563966	0.8446961160438338	0.7472249764882537	200	0.012257180879865775	0.021033367430259478	0.03809874098679807	0.023718019033761684	200	0.11219114064328034	0.1534239971476366	0.21174015876909552	0.15776689704574276	200	0.40151250960251883	0.44164458518768407	0.5117346580720709	0.45302702288091495	200	0.6732404801270179	0.7152158421781707	0.7554212286570804	0.7151006381798125	200	0.08130715972510741	0.1125337841224287	0.13469992492262145	0.10986820736768976	200	12.0	13.0	13.0	12.735
258	fresh-en-1	10	11	JS	16	full_attention	200	0	200	0.012129754142551973	0.02756568178301677	0.053156213027978086	0.03111563401675994	200	0.0035617715446278455	0.008189627435058355	0.022515043430030347	0.012655710716499015	200	2.772891556438018	5.620292373824549	8.392975529674137	5.65763210199563	200	0.17330572227737612	0.3512682733640343	0.5245609706046336	0.3536020063747269	200	0.06042468716479553	0.12312224875165927	0.3180355820918079	0.17066951470487632	200	0.1990284378536723	0.3222974385676557	0.577510841922257	0.36134668632905187	200	0.5958839053122645	0.7174585738399295	0.8489595309124881	0.7218225477606007	200	0.8345675211164408	0.8958787219369339	0.953208964678737	0.8971598878108424	200	0.01245711316804196	0.028983649447609384	0.05255686712975372	0.03081421530304316	200	6.0	9.0	10.099999999999994	8.225
259	fresh-en-1	10	11	sqrtJS	16	full_attention	200	0	200	0.3480386174749583	0.543599259108305	0.7279269386082887	0.5426706708426354	200	0.05968044437468052	0.09049655869603157	0.1500500649213791	0.10147279778495431	200	7.786795436381748	11.167258724565684	12.856941973850715	10.717228882353261	200	0.48667471477385926	0.6979536702853553	0.8035588733656697	0.6698268051470788	200	0.016297805213144903	0.028850671209787696	0.07032379809211387	0.03941906345986685	200	0.126183576611211	0.17118246445915597	0.27297499398166714	0.1883892132250232	200	0.4253922406250987	0.4836082610551373	0.5842930396744872	0.49745094528228123	200	0.6902138798479083	0.7384927740399874	0.8014818866030737	0.7431939922447773	200	0.07471577023129482	0.09971293189387676	0.128884513148028	0.09995610012552845	200	12.0	12.0	13.0	12.375
260	fresh-en-1	11	12	Q	8	linear_attention	400	0	400	0.7567769389599562	1.0795705001801252	1.7580996453762059	1.1694565903116017	400	0.18596988320350646	0.29172611236572266	0.4819856643676758	0.31001477092504504	400	5.524607274825687	6.414253687847145	6.880443063052533	6.308297452353024	400	0.6905759093532109	0.8017817109808931	0.8600553828815666	0.788537181544128	400	0.023245134263822177	0.035317468085793564	0.06400953881333335	0.03964568935568683	400	0.21995468508733446	0.25814923850456784	0.31921119443047025	0.2647836258684623	400	0.3848805435459116	0.4195852463063549	0.4855266401589614	0.42801073949973056	400	0.6484030977828479	0.6830797912060882	0.7350299329888763	0.6863293791390171	400	0.09359781213000229	0.11960744618172511	0.1483041568860997	0.12006861918145079	400	6.0	7.0	7.0	6.8175
261	fresh-en-1	11	12	K	8	linear_attention	400	0	400	0.5281048333272338	0.8310451991856098	1.4153220526874066	0.9152459127036855	400	0.12563560381531716	0.21257421374320984	0.3468866616487503	0.22543062875047326	400	5.941233116580824	6.53863616173657	6.964164763719883	6.492122490216555	400	0.742654139572603	0.8173295202170713	0.8705205954649854	0.8115153112770693	400	0.021248283466748612	0.03192810778996481	0.04950315486757437	0.033915335080159884	400	0.20772005638230942	0.24559798928419585	0.2896104520395671	0.24772033961933929	400	0.37449797872241064	0.4094081479182775	0.46352951685001714	0.4142904575526047	400	0.6394769970639034	0.6769673642323686	0.7263123591199059	0.6801635151190543	400	0.08979062402246012	0.1212878312681364	0.15436371857201703	0.12109071700773352	400	6.0	7.0	7.0	6.7875
262	fresh-en-1	11	12	V	8	linear_attention	400	0	400	0.40966571010649205	0.7090068785473704	1.3721489839255814	0.822325454945676	400	0.0932987503707409	0.17045152187347412	0.3586284995079041	0.20707087761722506	400	5.70724240881158	6.530690915793778	7.17927972446588	6.47746376894724	400	0.7134053011014475	0.8163363644742222	0.897409965558235	0.809682971118405	400	0.01633113148272599	0.03214076854143387	0.05738976178152401	0.034936112599367214	400	0.19416638584896312	0.2435624165748207	0.30346263875665414	0.245877599984745	400	0.360049786245077	0.4113513954222471	0.47683463113878694	0.41534938462501414	400	0.6313436976228772	0.683580585877189	0.7369502103048826	0.6839693390150956	400	0.08468630236873252	0.12112264009059343	0.15558656302894555	0.12173724458077556	400	6.0	7.0	7.0	6.8
263	fresh-en-1	11	12	QKV	8	linear_attention	400	0	400	0.6695722434669733	0.9737617634236813	1.4699242446571588	1.0259376918058842	400	0.15512494146823883	0.24131304770708084	0.37777670025825505	0.25822414975613356	400	5.917319637446901	6.573636620480408	6.968569728815417	6.508530547434167	400	0.7396649546808626	0.821704577560051	0.8710712161019272	0.8135663184292709	400	0.0211445407853598	0.03099748534940353	0.05028049688278485	0.03342526924951561	400	0.21369708065143506	0.24717857328140533	0.2961957323016306	0.250994432492419	400	0.3753533510823	0.4094599139837099	0.4594258168986935	0.4134366145626896	400	0.6394669697597971	0.6769448204384146	0.715005530353559	0.6761832911579259	400	0.09667641657455553	0.12475849116511666	0.1550902544220896	0.124751852060638	400	6.0	7.0	7.0	6.86
264	fresh-en-1	12	13	Q	16	linear_attention	400	0	400	0.40015879357233647	0.6367415268905461	0.9498837446328253	0.6584214791984414	400	0.053000422194600105	0.10679681226611137	0.21886933296918876	0.12330687199253589	400	7.900701295613523	11.646988774273883	13.565833801249099	11.169689381342009	400	0.49379383097584517	0.7279367983921177	0.8478646125780687	0.6981055863338755	400	0.011962247618184348	0.024916378273358276	0.06834302681699897	0.033075099284526115	400	0.1179872683467821	0.16569685816194646	0.2649923981204602	0.17874599109264844	400	0.38778811481556	0.45604739048671195	0.5857442320003411	0.4715996333051211	400	0.6629149618346649	0.7209183367904728	0.7998450453295818	0.7251634450902051	400	0.06120596826559935	0.09968537422661808	0.1256721898950002	0.09558489290132244	400	11.0	12.0	13.0	12.325
265	fresh-en-1	12	13	K	16	linear_attention	400	0	400	0.3927572287619114	0.5375448940321803	0.7774453839287162	0.565406767456443	400	0.049797373637557034	0.07518744841217995	0.1224941782653332	0.08126530165784061	400	10.335213078032655	12.68344582330926	14.048625770169288	12.365775688776461	400	0.645950817377041	0.7927153639568287	0.8780391106355805	0.7728609805485288	400	0.009260105482935049	0.01743246431054096	0.03654036661214121	0.021138451426572388	400	0.10327901904619319	0.1349392011451908	0.19822484513796557	0.14440075104755393	400	0.3664113750642849	0.423616482568947	0.5049829225435034	0.43129149945616496	400	0.643231395495744	0.6959097085110486	0.7615328337640832	0.6990269813214163	400	0.06919068340026685	0.11007263677564436	0.13499486824500956	0.10656551438191535	400	12.0	13.0	13.0	12.595
266	fresh-en-1	12	13	V	16	linear_attention	400	0	400	0.3575849617598578	0.4940988947637379	0.6994051075074822	0.5102940507073072	400	0.04921595938503742	0.07432536780834198	0.12480693981051447	0.08175155418924987	400	9.18300042738304	11.822130690188416	13.535588381373007	11.550608502097361	400	0.57393752671144	0.738883168136776	0.8459742738358129	0.7219130313810851	400	0.012137938596258436	0.023559714933594798	0.04949017537220834	0.027914165765983254	400	0.11513807661584576	0.15112549001669207	0.224298238511075	0.16088247286924087	400	0.38371161510986945	0.4512482306128598	0.5533690730604433	0.46237825614832745	400	0.664523578389823	0.7248640452356558	0.795254827341673	0.7286026835665986	400	0.05957107863163338	0.09388339442183025	0.12476552595569422	0.09261185332096161	400	11.0	12.0	13.0	12.2025
267	fresh-en-1	12	13	QKV	16	linear_attention	400	0	400	0.4490968918427825	0.6040551688056439	0.772013966459781	0.6097000751754967	400	0.056225146353244784	0.08773870766162872	0.14940151125192652	0.09616111494600772	400	9.310497508280006	12.463384370486093	14.001834520812338	12.040878292479833	400	0.5819060942675004	0.7789615231553808	0.8751146575507711	0.7525548932799896	400	0.009513837982407871	0.018917363782731116	0.047899355805696736	0.024104700080375643	400	0.1075846235782156	0.14413174851535884	0.22382376080225969	0.1559608068805977	400	0.3710945911912024	0.43201796985240454	0.5350885532393697	0.44223589811974845	400	0.6432294246449133	0.6999073139039137	0.7763119762949903	0.7049439654665777	400	0.06982721825175492	0.11029844876864406	0.13662473491330956	0.10616657765486029	400	12.0	13.0	13.0	12.6025
268	fresh-en-1	13	14	Q	16	linear_attention	400	0	400	0.38587391609326005	0.6040984917199239	0.9251342911273243	0.6330764132403419	400	0.05596090294420719	0.10490240156650543	0.17073518931865694	0.10768222124082967	400	9.049924681683754	11.20894886640028	12.745485458953814	11.019996260893349	400	0.5656202926052346	0.7005593041500175	0.7965928411846134	0.6887497663058343	400	0.017023126484248807	0.028495393526881914	0.05119803810629733	0.03193805800542335	400	0.12355473699501456	0.16101374796579332	0.22482045349795793	0.16916563044889554	400	0.42063078432393225	0.48025343701919054	0.5569519138818774	0.4854138120642995	400	0.6984053024785097	0.7484979737849548	0.8014359438012052	0.7488587160328416	400	0.05877644099045833	0.08314924996652645	0.11196985507825112	0.08361870610330539	400	11.0	12.0	13.0	11.9275
269	fresh-en-1	13	14	K	16	linear_attention	400	0	400	0.43110426678322256	0.6153574767522514	0.93125104540959	0.6522414822975406	400	0.06342344433069229	0.10198630392551422	0.17182498276233674	0.11229783963412046	400	9.466881356501704	11.26579073181909	12.882829360778084	11.182182592684812	400	0.5916800847813565	0.7041119207386931	0.8051768350486302	0.6988864120428008	400	0.01613104306962981	0.028015269875100807	0.04600683653386488	0.030472140818704318	400	0.12392575955873118	0.16394327476466236	0.2241900720502706	0.17025395484046738	400	0.4159190131955582	0.4775634959011829	0.5445528443290275	0.47872412709523054	400	0.6873734845036722	0.7383968589247769	0.7847045412168916	0.7388570560911569	400	0.06455250246653593	0.09181227828863649	0.11854492766760194	0.0919839941054243	400	11.0	12.0	13.0	12.195
270	fresh-en-1	13	14	V	16	linear_attention	400	0	400	0.2900645933113992	0.48444348643533885	0.9060238415375352	0.5558347255448461	400	0.04291451759636402	0.08081001043319702	0.15883952975273133	0.0956442926172167	400	9.082088108694267	11.182737128421905	12.937344798062185	11.029474177962703	400	0.5676305067933917	0.6989210705263691	0.8085840498788865	0.6893421361226689	400	0.015782789673193617	0.02871844968737506	0.05078076652324791	0.03287630538483202	400	0.12097299468637882	0.16364300191529996	0.2316634520292726	0.17091962330260344	400	0.4107163934931436	0.4782539947641684	0.5566652830327425	0.4834321985556987	400	0.6858478089555013	0.7493497825824824	0.8054376502573247	0.7476701447073734	400	0.057861569823473076	0.0836187740495665	0.11742488317182441	0.08550577094016727	400	11.0	12.0	13.0	11.9875
271	fresh-en-1	13	14	QKV	16	linear_attention	400	0	400	0.44669262883253397	0.623176051536575	0.895405951049179	0.6510813516378403	400	0.06379591152071953	0.09507973119616508	0.15422177463769912	0.10377238671295345	400	9.936992727120396	11.636051701966881	13.048391316169603	11.536166028030898	400	0.6210620454450247	0.7272532313729301	0.8155244572606002	0.7210103767519311	400	0.015080325965394503	0.02500251873711617	0.04067634708726738	0.027247416794218743	400	0.11910349186550723	0.15268726401867833	0.20756579424184052	0.15914044390480855	400	0.408817362329244	0.4631131582779432	0.526147748039087	0.4668917532067847	400	0.684571216698779	0.7332940035915071	0.7834012840377015	0.7323544734283491	400	0.06558309125821403	0.09340692378298066	0.11996441808490575	0.09349140361054459	400	11.0	12.0	13.0	12.25
272	fresh-en-1	14	15	Q	16	full_attention	200	0	200	0.6563409255351871	0.8885973512660712	1.1189436026848854	0.8895391296368325	200	0.10744329616427421	0.13625537604093552	0.16880006939172745	0.13614295069128274	200	10.06622890678192	11.3995462231671	12.568105344479184	11.298629109686868	200	0.62913930667387	0.7124716389479437	0.785506584029949	0.7061643193554292	200	0.018204254305053534	0.026904311137326876	0.03929820876447321	0.02843344256938163	200	0.1273237626847258	0.15231394655018	0.18881087880584652	0.15567140948879182	200	0.43790628827696393	0.48271703602284305	0.5308263678853762	0.4824258262657118	200	0.7068053089766504	0.7451939087679385	0.7798337437196036	0.7443418419102259	200	0.0686915516833074	0.08643757504508862	0.10901966952622595	0.08786601411126468	200	11.0	12.0	13.0	12.09
273	fresh-en-1	14	15	K	16	full_attention	200	0	200	0.4422917545773089	0.6692723147571087	0.8980086565949023	0.6666717913839966	200	0.08063044473528862	0.13187910616397858	0.26484550237655635	0.1580746714770794	200	6.496921061890318	8.634981013580475	10.647325722358193	8.592294287572662	200	0.4060575663681449	0.5396863133487797	0.6654578576473871	0.5370183929732913	200	0.03351509067240662	0.056861881560029734	0.09751663408847647	0.06317353693975691	200	0.16137887751080895	0.2089274880791548	0.307736514048632	0.22779521059396768	200	0.5046569457559306	0.5892182690968026	0.6774019030472233	0.5882521444102824	200	0.7691001509701026	0.8213856097899936	0.8655278039685198	0.8219825699711337	200	0.03543520661033324	0.0521927683576505	0.07109596605144249	0.05222577504585699	200	10.0	11.0	11.099999999999994	10.58
274	fresh-en-1	14	15	V	16	full_attention	200	0	200	0.38464598446153103	0.5482084071263671	0.8379248509416356	0.5899795142468065	200	0.06866812258958817	0.11133556813001633	0.24260862022638316	0.13773065745830537	200	6.216467446575847	8.988623652207185	10.989150092716981	8.848462383194583	200	0.38852921541099045	0.561788978262949	0.6868218807948113	0.5530288989496615	200	0.030398839890936464	0.05200406482839079	0.10492072590861068	0.061358771557470666	200	0.16093596423522352	0.2045543545965087	0.3259517905663392	0.2280630588249819	200	0.49637822330059916	0.5724431643306074	0.6667465477694386	0.5754301473773614	200	0.7521417976747519	0.8015559040088436	0.842109261694103	0.7990237153134504	200	0.049456321819029994	0.06213600352255539	0.08528731593998064	0.06430578171829107	200	10.0	11.0	12.0	11.16
275	fresh-en-1	14	15	QKV	16	full_attention	200	0	200	0.6223420369904489	0.778354502748698	0.9231582049280405	0.7789445933763637	200	0.10168107002973557	0.1296810358762741	0.18023506850004192	0.1366561456397176	200	8.41350180833179	10.523084858081432	11.822431940106984	10.315722761810889	200	0.5258438630207368	0.6576928036300895	0.7389019962566865	0.6447326726131806	200	0.02355731133370658	0.034697786419297105	0.060114480614131806	0.03902258723578814	200	0.1334137715490158	0.16518611109273196	0.2417386911606085	0.1778114040581989	200	0.4630055955557551	0.5157883506966777	0.589183515042034	0.5209355972429051	200	0.7326387455106063	0.7717549500481755	0.8128654685207433	0.7724085128803674	200	0.05658227244761688	0.07334248693672096	0.0939632807903904	0.07454463698491803	200	11.0	12.0	12.0	11.63
276	fresh-en-1	14	15	JS	16	full_attention	200	0	200	0.018004731212204205	0.03348266697184954	0.059227829484098035	0.03692166017076658	200	0.004639329807832837	0.010504491161555052	0.025016705133020872	0.013612156253657304	200	3.274025923895891	5.125033934823258	7.78695510128457	5.334980079610843	200	0.20462662024349318	0.32031462092645363	0.4866846938302856	0.3334362549756777	200	0.07031469472045071	0.14146500516297272	0.25914426730502294	0.16129882478698312	200	0.2029433759326427	0.32494952021570706	0.5013753590550546	0.34711214847798033	200	0.6287480978828671	0.7532603672391712	0.8900012906240546	0.7571391532104915	200	0.8834822446646576	0.9343652837231533	0.9743636498315802	0.9299282811985253	200	0.004901058654277581	0.013966580533476772	0.028204854633257292	0.015356057073776968	200	5.0	7.0	9.0	7.035
277	fresh-en-1	14	15	sqrtJS	16	full_attention	200	0	200	0.4415515260305256	0.5724745735060424	0.7562368151731789	0.5807246377062983	200	0.06811262890696526	0.10248782485723495	0.15816269665956495	0.10990720879286528	200	7.529556492098475	10.043100982924784	11.830367405808222	9.857777920876396	200	0.4705972807561547	0.627693811432799	0.7393979628630138	0.6161111200547748	200	0.02349704647211202	0.03954228448838887	0.07499737416111749	0.04573978544263805	200	0.13440912438352798	0.1823663584313931	0.2529708800712911	0.19014998749873235	200	0.4534672937478886	0.5284547764820187	0.6352246885760922	0.5384655484043196	200	0.737841351853865	0.7883864326779022	0.8530867643748598	0.789249829856754	200	0.046555005837892384	0.07025507592106536	0.09329942047575829	0.07066103067246497	200	10.0	11.0	12.0	11.305
278	fresh-en-1	15	16	Q	8	linear_attention	400	0	400	0.2711366474628448	0.539630301296711	0.9237230136990549	0.573938003234798	400	0.06328783221542836	0.12822913378477097	0.2760877221822739	0.14860856218729168	400	5.576764567866008	6.681737031598869	7.362441183548381	6.579373347122547	400	0.697095570983251	0.8352171289498587	0.9203051479435477	0.8224216683903184	400	0.012370874578419209	0.028184786627722263	0.06207479661467802	0.0328838024600782	400	0.19149372017339686	0.24407549472571974	0.3228724132773278	0.25115620622294166	400	0.35086566362338967	0.4071006429210248	0.48109258782423536	0.41288698567939136	400	0.6123027580780799	0.6550810994024083	0.7184733863773753	0.6595501142579798	400	0.11872841197973748	0.1463155329486811	0.1737485704960282	0.14680050892723961	400	7.0	7.0	7.0	7.0025
279	fresh-en-1	15	16	K	8	linear_attention	400	0	400	0.34259005822241306	0.5003784280270338	0.7856600016355515	0.5381201247498393	400	0.06735700890421867	0.11001741141080856	0.19674786627292637	0.12210885928012431	400	6.251888971033041	7.025771520366799	7.396969407384826	6.892041953274288	400	0.7814861213791301	0.8782214400458499	0.9246211759231032	0.861505244159286	400	0.011646288671032264	0.01980928311826797	0.03994475122366749	0.023928021941082102	400	0.18092751893393544	0.21356752463073111	0.27390740614220743	0.22162753673329508	400	0.34312823181484314	0.38427251972638876	0.4490570748420421	0.3913343810625774	400	0.6107786398562652	0.6495456871563821	0.6937249247544216	0.6514891970104955	400	0.12386306464319126	0.14860336645650923	0.17426210665525194	0.14963481543350796	400	7.0	7.0	7.0	6.995
280	fresh-en-1	15	16	V	8	linear_attention	400	0	400	0.32907226383686067	0.47515508625656366	0.727832093089819	0.5049836496147327	400	0.06769566759467124	0.1027485616505146	0.1874361485242844	0.11676882148720324	400	5.945369281835923	6.912787387200893	7.3764059772068675	6.765377967118086	400	0.7431711602294904	0.8640984234001117	0.9220507471508584	0.8456722458897608	400	0.012077009402636885	0.022467939320686185	0.04936930644935354	0.027807225289983296	400	0.1816270836641393	0.2133201308117083	0.2924820619928854	0.22703727848122437	400	0.34614924678364245	0.38837277611282234	0.47123153788227584	0.39795358557295385	400	0.6189158925670177	0.6598919231859717	0.7159850313211588	0.6623270262518922	400	0.11070638041674453	0.14096662480505417	0.16865267685249227	0.14042823882967237	400	7.0	7.0	7.0	6.96
281	fresh-en-1	15	16	QKV	8	linear_attention	400	0	400	0.3923039147630334	0.5221432708203793	0.8025936536490917	0.5630558036244474	400	0.07713610976934433	0.11622476205229759	0.21189949959516538	0.13013154728338122	400	6.155570420277679	7.017005264912422	7.408260599098569	6.907467952094582	400	0.7694463025347099	0.8771256581140527	0.9260325748873212	0.8634334940118228	400	0.011410804437885837	0.020012503240417603	0.04280531834209489	0.023445391863559872	400	0.18253702129454166	0.22002798493699968	0.28081590109501725	0.2258137937300615	400	0.34338422188178963	0.38652627350977825	0.4507843386809182	0.39107108723694867	400	0.6111723327343769	0.642529598383496	0.6877122119536123	0.6455973608547378	400	0.13406645195545083	0.1538841811553101	0.1776088371211376	0.1546207257540409	400	7.0	7.0	7.0	7.005
282	fresh-en-1	16	17	Q	16	linear_attention	400	0	400	0.09337918295641431	0.30953697045333683	0.5907246937509627	0.3352472458622651	400	0.01392392572015524	0.05418849736452103	0.10268680155277254	0.05841724322293885	400	8.905798445796412	11.64138146547818	12.921808616472704	11.213610030850402	400	0.5566124028622758	0.7275863415923862	0.807613038529544	0.7008506269281501	400	0.01588112491850402	0.024960488715059535	0.0531152409056388	0.03173127547388234	400	0.12080590748803613	0.15235131259761714	0.2515795113947713	0.17120790128583668	400	0.41127631446019447	0.4632548207555784	0.5408936029680277	0.4723083477384988	400	0.6856202056846542	0.7341247612521012	0.7819669842072424	0.7346803970212874	400	0.06677120987431369	0.09165393634143856	0.11694633328234391	0.09132242361102115	400	11.0	12.0	13.0	12.19
283	fresh-en-1	16	17	K	16	linear_attention	400	0	400	0.3151325881015509	0.4342981765512377	0.6140281042549759	0.4490922313547344	400	0.043734886497259144	0.0605989508330822	0.0972646735608578	0.066486811270006	400	10.724829550181356	12.228698399775592	13.22123826722373	12.06350940830659	400	0.6703018468863348	0.7642936499859745	0.8263273917014832	0.7539693380191619	400	0.014011608106958827	0.020559842157920602	0.0327910838453225	0.022651020110824805	400	0.11532941394132296	0.14109018363332754	0.18747700691390254	0.14804679437938673	400	0.4007285213311116	0.4402400299003572	0.4938822597033423	0.4448768679799309	400	0.6807477272333515	0.7168661065576287	0.7564023618453122	0.7174010597407197	400	0.07520501474426387	0.09555361683928279	0.1174611252098421	0.09637732141903163	400	12.0	12.0	13.0	12.3675
284	fresh-en-1	16	17	V	16	linear_attention	400	0	400	0.27350447163917124	0.4227070201886818	0.5940568962134422	0.4355280553940247	400	0.03790762796998024	0.0634639710187912	0.10251315906643868	0.06916116249281913	400	9.488318210046588	11.943810424407413	13.194843364123189	11.569463788469852	400	0.5930198881279117	0.7464881515254633	0.8246777102576993	0.7230914867793657	400	0.014172994549902618	0.022640399642703552	0.045752280059905594	0.027438945403027885	400	0.11746019499638564	0.1448118464364499	0.21618551729597588	0.15761362888869188	400	0.4033386966923207	0.45345510537966793	0.5382468362442999	0.46324582845119655	400	0.6809839603722169	0.7250734270160011	0.7918636445196023	0.7326652321697534	400	0.05918017447726996	0.09173037870574513	0.11421132244248275	0.08876760141047736	400	11.0	12.0	13.0	12.07
285	fresh-en-1	16	17	QKV	16	linear_attention	400	0	400	0.3224496560636908	0.42696445202454925	0.5670095440000296	0.43686625730391826	400	0.04111108183860779	0.05806395970284939	0.0970219224691391	0.06411537552252412	400	10.860585927689414	12.332699332159685	13.303101069674536	12.185908437883166	400	0.6787866204805884	0.7707937082599803	0.8314438168546585	0.7616192773676979	400	0.013515142884425336	0.019824265945808238	0.03154781249084804	0.021555262088733596	400	0.11412806625684199	0.13841783456198153	0.18926734850591428	0.14527515172162736	400	0.3977816898172273	0.43762988539490966	0.4904281217063621	0.4405206492400464	400	0.6755264447647816	0.7127760679403246	0.7514245675042959	0.7138758245488483	400	0.07636906628376562	0.09805705282596408	0.12102353951834258	0.09836263774009961	400	12.0	12.0	13.0	12.405
286	fresh-en-1	17	18	Q	16	linear_attention	400	0	400	0.11021345909684897	0.338476461940445	0.5653739788569512	0.3405843933156575	400	0.026052736118435862	0.07995821535587311	0.13885354250669482	0.08218945023138076	400	6.162025730218611	8.99159508324555	11.725378448703385	8.919756278077184	400	0.3851266081386632	0.5619746927028468	0.7328361530439615	0.557484767379824	400	0.024304100746185248	0.05196265211061707	0.10643682706639745	0.06018104605127638	400	0.17018972562575307	0.23483492126133199	0.3455615882768044	0.24680718492958292	400	0.46116669656987885	0.5377724947820358	0.6371559538064466	0.543455840799756	400	0.7051735457206023	0.7583936969854026	0.8222305189114208	0.7598993752124531	400	0.059531921278669256	0.08999373682597112	0.11876229663901106	0.08958152678238605	400	11.0	12.0	13.0	12.06
287	fresh-en-1	17	18	K	16	linear_attention	400	0	400	0.15282106256345288	0.2809805085416883	0.3931443728040904	0.2805546534269524	400	0.03894457146525383	0.06303644925355911	0.09764739125967026	0.06536894329823553	400	7.3855785843073045	9.157039695880897	11.198219663289356	9.194545587901052	400	0.46159866151920653	0.5723149809925561	0.6998887289555847	0.5746590992438158	400	0.028586844203425207	0.04981955388290905	0.07775894252854917	0.052215458874604034	400	0.18311199374376386	0.23556353868911	0.2917889990107006	0.2369250187215229	400	0.4688927293553796	0.5302337887860165	0.598830161758717	0.5316404632385534	400	0.7062751739942418	0.7549123075430664	0.7949916084244423	0.7523710404851436	400	0.07047217719716797	0.09150435392256773	0.11898176092652953	0.09317170063363989	400	11.0	12.0	13.0	12.2175
288	fresh-en-1	17	18	V	16	linear_attention	400	0	400	0.2774945611832664	0.35947241412941366	0.4619440575130284	0.36702827518805864	400	0.08454172611236573	0.11752297729253769	0.152948434650898	0.1176844159886241	400	4.7442536498612	6.612855922287933	9.075520340124022	6.771454527052574	400	0.296515853116325	0.4133034951429958	0.5672200212577514	0.4232159079407859	400	0.05086594555205776	0.09463530374021031	0.1581669652134941	0.09970563673992572	400	0.2417635412718359	0.32240931247017585	0.4163903103217813	0.3248960376505816	400	0.5231054962188049	0.6011278080230325	0.683815776468913	0.603343330494613	400	0.742005256697775	0.7967629643358549	0.8412049897339837	0.794810194985394	400	0.051316181520563414	0.07325260415466169	0.10211204573590976	0.07517182314839194	400	10.0	12.0	13.0	11.505
289	fresh-en-1	17	18	QKV	16	linear_attention	400	0	400	0.25511412443593146	0.3471266374690458	0.45071079235058276	0.35192665737500645	400	0.06657342314720154	0.09271714463829994	0.12381824478507043	0.09386549964547157	400	6.329031530953002	8.233270933419504	10.36751110898895	8.237898656319253	400	0.39556447068456263	0.514579433338719	0.6479694443118094	0.5148686660199533	400	0.036218878426732264	0.06288898101822214	0.10186895192560877	0.06701920651092315	400	0.21196174945463794	0.27092794646834495	0.324364166615514	0.2700074613094992	400	0.48644151171128663	0.549135193708908	0.6287772443816939	0.5563556252063723	400	0.7166055126248112	0.7651511031305743	0.8091479921400628	0.7650183684967555	400	0.06448574450155656	0.0875607241866814	0.11268813041886952	0.08823208961729008	400	11.0	12.0	13.0	12.045
290	fresh-en-1	18	19	Q	16	full_attention	200	0	200	0.4311848957557231	0.507052164291963	0.6162233195267618	0.5107508661586325	200	0.060883527249097825	0.0817686878144741	0.11165664494037628	0.08477950628846884	200	10.267074556881408	12.053063406863082	13.55564874112228	11.928605507424567	200	0.641692159805088	0.7533164629289426	0.8472280463201425	0.7455378442140355	200	0.012021317325446302	0.021830902157727136	0.03722575109736039	0.02369911731587978	200	0.1305501675613611	0.16279934066108026	0.20521098282814415	0.1658020674863059	200	0.39593018685692877	0.4437525128426434	0.5087399537918276	0.44761150660493654	200	0.6545650693567531	0.6931784178368067	0.7447730326426625	0.6973884541790099	200	0.09329714259774999	0.11905223206513435	0.14710723192008082	0.11925183171336029	200	12.0	13.0	14.0	13.005
291	fresh-en-1	18	19	K	16	full_attention	200	0	200	0.22670026507694274	0.30704461922869086	0.4183166562113911	0.3150407258141786	200	0.039362269267439846	0.056449003517627716	0.08684100806713105	0.0604136099293828	200	7.396835134695401	10.406239556138406	12.041620069769985	10.129963886301061	200	0.46230219591846256	0.6503899722586504	0.7526012543606241	0.6331227428938163	200	0.021915179915932743	0.035839364439629914	0.07754615250883176	0.04206697492328054	200	0.14859099883759383	0.18178755308565453	0.2955799235864016	0.1952872559673132	200	0.443392592852635	0.5233448032550203	0.6079653084854294	0.5245941471393899	200	0.7104302998560672	0.7471288199464352	0.7901370207663001	0.7501334067637319	200	0.07855729515968833	0.09740128403048563	0.11067932950297159	0.09652463636806345	200	12.0	12.0	13.0	12.46
292	fresh-en-1	18	19	V	16	full_attention	200	0	200	0.19400029163807633	0.26802419405430555	0.7444141902960837	0.34145368648692964	200	0.03089746590703726	0.044242747128009796	0.09369491934776303	0.054221234880387784	200	11.256714352597237	12.289513119609753	13.580736845983463	12.20946932958521	200	0.7035446470373273	0.7680945699756095	0.8487960528739664	0.7630918330990756	200	0.011875960653144007	0.02012824268777999	0.02812072543826031	0.02157557949596511	200	0.13053710679682953	0.15637861453178792	0.1861536813133661	0.16196019077726412	200	0.39005189977281957	0.43376370914656515	0.4878899524965831	0.43821051609594314	200	0.6380715811022685	0.6832696695651446	0.7298022814893581	0.6826428343630974	200	0.105279133664871	0.12693181904971995	0.15821533083162037	0.12834481768224765	200	13.0	13.0	14.0	13.12
293	fresh-en-1	18	19	QKV	16	full_attention	200	0	200	0.31665201601572335	0.39338733768090606	0.5794233224354685	0.41706886326428505	200	0.04845853969454765	0.06443605571985245	0.0888820044696331	0.06650541638955473	200	11.007434277440948	12.080045669666244	13.410993294223736	12.089160451072276	200	0.6879646423400593	0.7550028543541403	0.8381870808889835	0.7555725281920173	200	0.01287010285103627	0.02163322757509914	0.030237538393672932	0.02213954175105454	200	0.1312497628212408	0.15828317223401697	0.1958847498207491	0.1603144957098266	200	0.3972756301685534	0.4453810209838822	0.48398942204827167	0.44485647950146784	200	0.6651939623777732	0.6972101794953363	0.7309527729056692	0.6971647468186949	200	0.09977808790465417	0.11870345155728651	0.1370675737754651	0.11832447995976308	200	12.0	13.0	13.0	12.965
294	fresh-en-1	18	19	JS	16	full_attention	200	0	200	0.011181799773294188	0.020532311007855242	0.036456327223640984	0.023194204544329865	200	0.004730595322325826	0.011461302638053894	0.025105519965291017	0.014161832590471022	200	1.7412255463230686	2.659619212849171	4.217517466409308	2.8566335462318433	200	0.10882659664519179	0.16622620080307318	0.2635948416505817	0.1785395966394902	200	0.186248787168078	0.3343939097149974	0.5459485804755462	0.3479876147285212	200	0.37021580694925976	0.5612792278356824	0.7436607439631449	0.5598981971998174	200	0.8284835735130546	0.8959170292033419	0.952508250082405	0.8940651980407996	200	0.9457998846249187	0.9721946631458249	0.9865427685131878	0.9696579546258809	200	0.0032790084639732243	0.006570122373840076	0.01298995768820614	0.00743597117095286	200	3.0	5.0	6.0	4.545
295	fresh-en-1	18	19	sqrtJS	16	full_attention	200	0	200	0.30193768690805883	0.3825230540242046	0.45287913030479104	0.3826136138779111	200	0.06877774968743325	0.10705734044313431	0.1584443613886833	0.11202324468642473	200	5.280599074492594	7.197478374739278	8.886627395716664	7.092955534662397	200	0.3300374421557871	0.4498423984212049	0.5554142122322915	0.4433097209163998	200	0.05336540868347305	0.0815335800050039	0.13533071359772827	0.09134531188350514	200	0.2066737892973911	0.2802597576393344	0.3744575598529207	0.287352390095275	200	0.5709947479340537	0.636453290661577	0.7013767933232948	0.6394547653851447	200	0.7891912367314837	0.8343033990581601	0.8732837537132458	0.8324792919488169	200	0.045984321058947716	0.05991051438894515	0.07563192302723536	0.06042171254999941	200	10.0	11.0	12.0	10.665
296	fresh-en-1	19	20	Q	8	linear_attention	400	0	400	0.1669487931765616	0.3607848957180977	0.6931610012426973	0.410217474353849	400	0.05229693911969662	0.10168685764074326	0.27130539715290075	0.13658672756515444	400	3.8522452858604623	5.371966498725807	6.603127491725998	5.329706811730791	400	0.4815306607325578	0.6714958123407259	0.8253909364657498	0.6662133514663489	400	0.030221015224022017	0.0698875323073061	0.15381598753968753	0.08070423305533554	400	0.2365747761013695	0.3089826393959058	0.43295096518653253	0.3198429092928105	400	0.4089720336405216	0.4922276664695664	0.6179908730739344	0.5058147722473455	400	0.6820258312389749	0.7755111152843578	0.8335079475059852	0.7674403842557654	400	0.04597965340383984	0.08583720637001785	0.1264873408641523	0.08557084511623253	400	5.0	6.0	7.0	6.1625
297	fresh-en-1	19	20	K	8	linear_attention	400	0	400	0.24076348687522114	0.37530899699777365	0.5617913661524654	0.39355633352941366	400	0.05804447829723358	0.10762063413858414	0.2099820077419281	0.12182375728152692	400	4.086322977661162	5.506324176655856	6.669362162591686	5.409461825292958	400	0.5107903722076452	0.688290522081982	0.8336702703239608	0.6761827281616197	400	0.028502297388318925	0.06469647797532935	0.13682192031180637	0.07621358134977661	400	0.20792188052625313	0.2839024676300036	0.42101042044324855	0.3033901752094671	400	0.3969658851053383	0.48115138500216087	0.5939299379550633	0.4900535095677916	400	0.6941012592948048	0.7869372845924716	0.8468555717827664	0.7768774297560458	400	0.048694880244755594	0.0803396814938182	0.12319150367942093	0.08427186059809469	400	5.0	6.0	7.0	6.145
298	fresh-en-1	19	20	V	8	linear_attention	400	0	400	0.29485651399008933	0.38210237585008144	0.5098383449949324	0.4015845881862333	400	0.07950440570712089	0.10472380369901657	0.14245635718107225	0.10834775455296039	400	4.664195094318613	5.499528094296002	6.575111898001579	5.580150773864391	400	0.5830243867898266	0.6874410117870002	0.8218889872501973	0.6975188467330489	400	0.03095963461312918	0.0649529756526238	0.10217059357767191	0.06581726863174843	400	0.21033675903760674	0.2693376143233327	0.34880853406705975	0.27575926999406536	400	0.3998346753079063	0.48935780717891786	0.5589212354807838	0.484013013274646	400	0.6938323414041523	0.7821831014716134	0.8382690015081081	0.7730889045096074	400	0.046839980923763166	0.07964465367848908	0.12154470969641071	0.08256188418928931	400	6.0	6.0	7.0	6.1725
299	fresh-en-1	19	20	QKV	8	linear_attention	400	0	400	0.2895806004293263	0.41380413877777755	0.5908717142418027	0.42657199458801187	400	0.07591332346200944	0.10958828404545784	0.1958449184894562	0.1290421062335372	400	4.4357837395409705	5.53182679381454	6.645874515744391	5.520771682619832	400	0.5544729674426213	0.6914783492268175	0.8307343144680489	0.690096460327479	400	0.029107884071064693	0.06373960453391098	0.11479004728519476	0.07005115593812697	400	0.22216170939544147	0.28768649637532595	0.38790090691655543	0.29597808011186333	400	0.3997630330317304	0.48265860232217883	0.5730654786817836	0.48778681564858106	400	0.6878482048322893	0.779512916738056	0.8374141693449785	0.7709493579211607	400	0.051382973422210085	0.08402486592549027	0.12246324777035782	0.0853742846969992	400	6.0	6.0	7.0	6.2025
300	fresh-en-1	20	21	Q	16	linear_attention	400	0	400	0.10556338662281632	0.1702877018833533	0.5006994354538621	0.2359837639743637	400	0.013436282984912395	0.025442440062761307	0.07741060778498651	0.03515632544178516	400	10.39298870288527	12.380351729083086	13.881980716585488	12.252051462896505	400	0.6495617939303294	0.7737719830676929	0.867623794786593	0.7657532164310316	400	0.010171551914208599	0.01949154040685766	0.03596662935133431	0.021689419201811937	400	0.11116455393606761	0.14171180462769878	0.18636323836834381	0.14765098724229075	400	0.3870003806517106	0.4413192794953636	0.5122803529954421	0.44567193247636155	400	0.6548255183310671	0.7014329292618093	0.7596170279911209	0.7065847281339503	400	0.084031583321219	0.11449742305194535	0.1426332172305131	0.11410944509573691	400	12.0	13.0	14.0	12.8325
301	fresh-en-1	20	21	K	16	linear_attention	400	0	400	0.1254141354933381	0.31875117239542305	0.4695759161841125	0.31453744126600214	400	0.015699871070683002	0.045685237273573875	0.07883117273449898	0.04893102428875864	400	10.493287817718581	12.323432574516353	13.639358357092167	12.126749688150348	400	0.6558304886074113	0.7702145359072721	0.8524598973182604	0.7579218555093967	400	0.01153838086220905	0.019889338830224618	0.034985729954510957	0.022536353009470687	400	0.11546060425145166	0.14182870106815737	0.1944304074122134	0.14985991516274125	400	0.394215054763074	0.4464655049684253	0.5157728110244876	0.4512684057224494	400	0.6663585935024191	0.7085837816420428	0.7526289974216942	0.7089678009597737	400	0.09081340613406973	0.11619876945044194	0.13910362367582935	0.11538286864432899	400	12.0	13.0	13.0	12.8775
302	fresh-en-1	20	21	V	16	linear_attention	400	0	400	0.25217119075823574	0.32624402130022645	0.4832525714300574	0.34900206910388076	400	0.03371674492955208	0.05066070333123207	0.07956316694617271	0.05547551088035107	400	9.845477528903364	11.865905141689801	13.46786708092047	11.765443984716676	400	0.6153423455564603	0.7416190713556126	0.8417416925575294	0.7353402490447922	400	0.012534201979382278	0.02322674343366416	0.04167419692951993	0.025509746670976247	400	0.11845330388847569	0.15247917265409766	0.20862972636857557	0.15833545665699386	400	0.39739705739933784	0.460859824204532	0.5327016368707144	0.46253117447757086	400	0.669278317553092	0.7213211804999263	0.7713056755743141	0.7208012258463148	400	0.0794525392913978	0.10616823729404243	0.1355381088861538	0.10667965292390058	400	12.0	13.0	13.0	12.6275
303	fresh-en-1	20	21	QKV	16	linear_attention	400	0	400	0.2158252321649343	0.3058822457678616	0.4426770078018308	0.32152505216770805	400	0.02840803787112236	0.04321477375924587	0.07283187955617906	0.04780787133146078	400	10.695067264134522	12.471487618407613	13.598548378642471	12.253714191361828	400	0.6684417040084076	0.7794679761504758	0.8499092736651545	0.7658571369601143	400	0.011773084417610121	0.018861756473651455	0.03306781498827839	0.02137352325329592	400	0.11477124887498903	0.1399193807328054	0.1897439512600233	0.14763040284353285	400	0.39483599207289943	0.43927910978017354	0.5012091569335229	0.44528549358863173	400	0.6670881935719456	0.7058763958976542	0.7495148225919139	0.706972063091183	400	0.09079675272378648	0.11481036310159395	0.14047209104347333	0.11550730197743743	400	12.0	13.0	13.0	12.88
304	fresh-en-1	21	22	Q	16	linear_attention	400	0	400	0.06384462246205659	0.17670703050680459	0.3051427816972137	0.1783992947047227	400	0.008537944965064525	0.019847989082336426	0.04315142333507538	0.02371753485291265	400	11.671821628997062	13.624235699940158	14.597915958091974	13.341410534878078	400	0.7294888518123164	0.8515147312462599	0.9123697473807484	0.8338381584298798	400	0.006403124275131964	0.011625187335285184	0.024721559600750283	0.01419021938387527	400	0.0973642688887752	0.1190732743997841	0.17316350045642953	0.1294566812477966	400	0.34999135350359767	0.38975334941419776	0.45282206139405345	0.3990459855676275	400	0.62320587929238	0.6612313282788462	0.7118820228051657	0.6648889018559109	400	0.10298115201791763	0.1346651935603197	0.16243770176032532	0.13333913666379016	400	13.0	13.0	14.0	13.2625
305	fresh-en-1	21	22	K	16	linear_attention	400	0	400	0.07246483792550863	0.22561558743473142	0.35786427110433583	0.22181170293828473	400	0.0084521958604455	0.02611955627799034	0.04820340760052205	0.027845182007877157	400	12.27069476884793	13.88397595736042	14.749479648176408	13.657958988402155	400	0.7669184230529956	0.8677484973350262	0.9218424780110255	0.8536224367751347	400	0.005652270414502424	0.010160509633652256	0.020261310386206936	0.011952356216040237	400	0.09532105401830814	0.11783834080437176	0.16055031323718438	0.12385020293634608	400	0.345382030078494	0.3833532434341703	0.441932155785918	0.38922357247356737	400	0.612796262428149	0.6518430956842234	0.7008728843911339	0.6543664877335331	400	0.11126180936841043	0.14258726219098045	0.166288509203652	0.14055452408609004	400	13.0	13.0	14.0	13.4575
306	fresh-en-1	21	22	V	16	linear_attention	400	0	400	0.14645517671015112	0.20409299293532968	0.3581325825769454	0.22789953315776074	400	0.017025454342365267	0.025588324293494225	0.04577934369444848	0.028921679761260748	400	12.08852557688836	13.522871150127056	14.646276087226953	13.412076382157728	400	0.7555328485555225	0.845179446882941	0.9153922554516846	0.838254773884858	400	0.0061618695853761915	0.012212046552993742	0.021571331274238784	0.013407440161870671	400	0.09927100304554601	0.12081479649674734	0.16150543220824096	0.12729382309273476	400	0.34993501766472984	0.39383123961459815	0.44475855450160806	0.3971812251404107	400	0.6220754410744784	0.6634335838380786	0.7090832538792318	0.6650051577631586	400	0.09823440081829309	0.13191439281451312	0.15887990445001454	0.13080731147180194	400	12.0	13.0	14.0	13.2
307	fresh-en-1	21	22	QKV	16	linear_attention	400	0	400	0.12880816871766002	0.21573365828953683	0.3277927831746638	0.2218316895258613	400	0.014228214789181948	0.024697483517229557	0.04338475912809373	0.02736534890020266	400	12.39878788299557	13.933333931945104	14.79044721812707	13.729729242531308	400	0.7749242426872232	0.870833370746569	0.9244029511329419	0.8581080776582067	400	0.00545195686218553	0.009888358030941104	0.019363249409110845	0.011459434525819833	400	0.09733048825230976	0.11618109800585436	0.15495674991204322	0.12205374658200668	400	0.3420926328768988	0.38092598778433384	0.4388426519969296	0.3854986705735986	400	0.6127734391661812	0.6500593070293752	0.697628564398646	0.6525462479273656	400	0.10886333608344433	0.14088437661784875	0.1670452230926111	0.13943321976226694	400	13.0	13.0	14.0	13.4325
308	fresh-en-1	22	23	Q	16	full_attention	200	0	200	0.3592355742584914	0.4290063641965389	0.5183386398013681	0.4358051378687378	200	0.05295615456998348	0.08061966672539711	0.12658628970384597	0.08682604677975178	200	8.498477804325665	10.389816369128663	12.540282437340775	10.431883194149066	200	0.5311548627703541	0.6493635230705415	0.7837676523337984	0.6519926996343166	200	0.01839256076685949	0.035997972876121255	0.058846210823366635	0.038183476836575574	200	0.13509375279852576	0.19369463025565364	0.263116682752461	0.19706982427250996	200	0.4226903900728656	0.49702955245723746	0.5538745436937531	0.4937323321627609	200	0.6849005184152759	0.7440087642227886	0.7830875008357476	0.7395746941226733	200	0.06609867796105949	0.0894409030977984	0.11773693285425921	0.09111001414597193	200	11.0	12.0	13.0	12.155
309	fresh-en-1	22	23	K	16	full_attention	200	0	200	0.32855844057630745	0.405355604365468	0.49803007435984903	0.4135330396937206	200	0.07885837256908418	0.10642682388424873	0.17981866300106045	0.11188872553408145	200	5.406684024131497	7.824861847479696	9.994388355191575	7.962303150587487	200	0.33791775150821857	0.489053865467481	0.6246492721994734	0.4976439469117179	200	0.04006673833221058	0.06967575043832355	0.13066206326311705	0.07497381053769142	200	0.19550840055564703	0.2703558381079888	0.37832679497243243	0.2741570887804091	200	0.5171382798255001	0.5720287824146004	0.6373187901905935	0.569206297494602	200	0.7475374164771328	0.7864549121757407	0.8264046719552145	0.7851415259666082	200	0.05528499658551932	0.06977050443179608	0.0807711393336097	0.07044546433674666	200	11.0	11.0	12.0	11.48
310	fresh-en-1	22	23	V	16	full_attention	200	0	200	0.18909952223766596	0.25209691270720214	0.3402364259818569	0.2632962192245759	200	0.03445771336555481	0.06500118225812912	0.14765326529741285	0.08498518273234368	200	3.7907766066634667	7.604634218782142	11.037576690480968	7.432812717686302	200	0.23692353791646667	0.47528963867388385	0.6898485431550605	0.46455079485539386	200	0.029973636053918434	0.07359972122606995	0.21477279383423586	0.1024102973704517	200	0.16090193943222877	0.28487560712478993	0.49306594634220835	0.30398565210836764	200	0.49545155390891044	0.5872090868164739	0.6985055282853629	0.5938313081564036	200	0.7466452297397497	0.8175944880420538	0.8688542602800692	0.8086692862370422	200	0.0410416809296553	0.05915167581360657	0.088387367754954	0.061955791457909866	200	9.900000000000002	11.0	12.0	10.92
311	fresh-en-1	22	23	QKV	16	full_attention	200	0	200	0.3165625500259921	0.3903192594880238	0.4747440696693957	0.39382400568167214	200	0.05849056728184223	0.08628058061003685	0.1325710192322731	0.0935366622172296	200	6.609176746232382	9.043481104332157	11.62641145284913	9.02073667887968	200	0.4130735466395239	0.5652175690207598	0.7266507158030706	0.56379604242998	200	0.025078482539711726	0.05128207313746439	0.09472850067847781	0.05787633461985751	200	0.1533327697107659	0.22689142102930943	0.33277540974781106	0.2369125603220013	200	0.46867103693328954	0.538736420168326	0.605079627042817	0.5383087529349373	200	0.7142758519297637	0.7724137837943109	0.8124701520823968	0.7661928601375356	200	0.05926498734040882	0.0789352885292616	0.09938865574208369	0.08012805172165825	200	11.0	12.0	12.099999999999994	11.81
312	fresh-en-1	22	23	JS	16	full_attention	200	0	200	0.0006548373678775478	0.005710974774956412	0.010046254622852756	0.005727734705190684	200	0.0003446378308581188	0.002191954874433577	0.005025189882144332	0.0028395897474547383	200	2.0805880696920287	3.456884827849072	4.795167555360664	3.4264856378474575	200	0.1300367543557518	0.216055301740567	0.2996979722100415	0.2141553523654661	200	0.15577992324836368	0.24189662990558702	0.44600929059296407	0.2787465944918049	200	0.31801049757627503	0.4574181097015638	0.6713400086388607	0.4804506375313599	200	0.7890561926977303	0.8653031491092444	0.93487827550346	0.8635734485331668	200	0.9305897464303312	0.9601534309674675	0.9821965403596922	0.9579355198906288	200	0.003565159552665757	0.008419251055247715	0.01576835887178605	0.009210318846961947	200	4.0	5.0	7.0	5.425
313	fresh-en-1	22	23	sqrtJS	16	full_attention	200	0	200	0.06319582018768415	0.21820172836305574	0.2689065179089084	0.19664797570407244	200	0.018564413674175738	0.046818315982818604	0.07088856622576714	0.048208457650616765	200	6.231787440009218	8.087427799617846	9.606946661964134	7.942121688052594	200	0.38948671500057613	0.5054642374761154	0.6004341663727584	0.4963826055032871	200	0.04436429250269472	0.06522627446553322	0.10450701511879815	0.07312091215983446	200	0.18335785834009402	0.23800731424651156	0.32609806366392924	0.24993717399838947	200	0.5431624918329219	0.6045795630472731	0.6805249844030334	0.6099194619996151	200	0.773016331414066	0.8156516430145131	0.8662197142008561	0.8177819383249778	200	0.042215155369451175	0.06066362336116296	0.08112226200805865	0.06092651660864405	200	10.0	11.0	12.0	10.86
314	fresh-en-2	0	1	Q	16	linear_attention	400	0	400	2.4726752978749573	3.7375750923529267	4.850858685933053	3.6861189761641437	400	0.46132279336452486	0.8543250560760498	1.1934852480888367	0.8383005390316248	400	6.370148327369052	8.569242898757494	10.582774403795472	8.509324284369315	400	0.39813427046056576	0.5355776811723434	0.661423400237217	0.5318327677730822	400	0.034126061746137866	0.05780951991934226	0.1007820661802688	0.06362601097720445	400	0.1641044477471998	0.22125739735807703	0.30661290944083297	0.2265869632546195	400	0.5068489897298353	0.5937344584591551	0.6911788683528843	0.5988805846990324	400	0.7512344768410083	0.8079303279028176	0.8646909538119537	0.8071989728185577	400	0.04174391912420662	0.06480786376597439	0.09439553022675148	0.06659055561126649	400	10.0	11.0	12.0	11.115
315	fresh-en-2	0	1	K	16	linear_attention	400	0	400	2.9589993285480887	3.6147952508181334	4.718218704406172	3.7445520730968567	400	0.4922227650880814	0.7032828629016876	0.9911369681358339	0.7268326603621245	400	7.514437478258538	9.898047495738098	11.573468821562177	9.685346151940486	400	0.4696523423911586	0.6186279684836311	0.723341801347636	0.6053341344962804	400	0.025498166889913056	0.041098731578761385	0.07528234231793031	0.0467694330856743	400	0.14839073747428455	0.18401677417925733	0.2528621414643858	0.19402203840318355	400	0.4637833956027394	0.5404437625709599	0.6572332192339179	0.5527928895103493	400	0.725146747672929	0.7744256398733314	0.8421464561317874	0.7802984129646038	400	0.04984795481484179	0.07412155184761895	0.09673434123797693	0.07391592663543128	400	10.900000000000006	12.0	12.0	11.5675
316	fresh-en-2	0	1	V	16	linear_attention	400	0	400	1.601429042359814	2.718538397923112	4.425311133172363	2.9363659172540064	400	0.3051665127277374	0.5337409377098083	1.0304036021232605	0.6539870547875762	400	6.511655664285719	8.95473583228312	11.4190294810497	8.917105365731068	400	0.40697847901785744	0.559670989517695	0.7136893425656062	0.5573190853581917	400	0.026744660791879857	0.05245099216047753	0.09714217914207937	0.05869019282004693	400	0.1530797588129219	0.20582640260625115	0.29660369427235606	0.2165936337414439	400	0.47062371731904123	0.5715773292677548	0.6824480474656865	0.5758182051673303	400	0.7402655687431883	0.8064928996490706	0.8758530033052949	0.8059241440180978	400	0.03513627097313222	0.05950396458654637	0.08867234972764908	0.060757833076099776	400	9.0	11.0	12.0	10.9
317	fresh-en-2	0	1	QKV	16	linear_attention	400	0	400	2.877012618817389	3.5474699581973255	4.493177025020123	3.66330001636059	400	0.4910459160804749	0.7071874737739563	0.9930141746997834	0.7431290470808745	400	7.605499827453808	9.428086651037585	11.062832651678335	9.378469791354695	400	0.475343739215863	0.5892554156898491	0.6914270407298959	0.5861543619596684	400	0.02975228032444027	0.04647046364289961	0.07358272721981475	0.04946543302789688	400	0.15542508394133997	0.19372789644610697	0.2510150381644268	0.20077961029927172	400	0.4938348442305548	0.5556642334671317	0.6580205748407775	0.5663213427535048	400	0.7366804415922553	0.7830993735245134	0.8439915024416458	0.7875184033498662	400	0.04918868848191448	0.07251381658806932	0.09602754578482219	0.0732631741612165	400	10.0	12.0	12.0	11.49
318	fresh-en-2	1	2	Q	16	linear_attention	400	0	400	0.6467387733049691	1.2311389315873384	1.8427374650724233	1.238258186922467	400	0.11037619113922119	0.22918583452701569	0.37181766927242277	0.23878039263188838	400	7.666329272037907	9.810243845300857	11.781536222731383	9.707409332745465	400	0.4791455795023692	0.6131402403313035	0.7363460139207114	0.6067130832965916	400	0.02387048511732007	0.04206322101995855	0.07247004450019576	0.04660961999145874	400	0.13632660638494107	0.18128874868907635	0.25978036721515263	0.19189095232877765	400	0.45573278083647095	0.5323556112577286	0.6308779086002292	0.5381222745281744	400	0.7333901962123509	0.7991498825958216	0.8738924153588391	0.8032625103647323	400	0.03089682737632073	0.06159943465153084	0.09036398803526896	0.06147530041301772	400	9.0	11.0	12.0	10.855
319	fresh-en-2	1	2	K	16	linear_attention	400	0	400	0.8913048025220632	1.256248516496271	1.8419503295794135	1.317925817295909	400	0.13660329878330232	0.21154297143220901	0.3379586696624756	0.22862691062502563	400	8.447188401575257	10.739624947687648	12.042823060074989	10.468261262682963	400	0.5279492750984536	0.671226559230478	0.7526764412546868	0.6542663289176852	400	0.021906145052908697	0.03265399671790962	0.05960815708481322	0.03746161168453016	400	0.13342658054123857	0.16530705564374365	0.22179004827313162	0.1722901887717966	400	0.4469838121164075	0.4976041223841733	0.5964288855435161	0.5108754707313077	400	0.7228842970993927	0.7712707521745725	0.8696657159262754	0.7834203764667115	400	0.03288613354617825	0.07264717896387868	0.09801402770291148	0.07015424052433737	400	9.0	12.0	12.0	11.2625
320	fresh-en-2	1	2	V	16	linear_attention	400	0	400	0.5403325803228655	1.1034665680490434	2.0374572062864904	1.2351520844992774	400	0.09745831266045571	0.20665869861841202	0.41894162297248844	0.2381142215244472	400	7.318665325830582	9.895466420169896	11.806494366824161	9.702305093905842	400	0.4574165828644114	0.6184666512606185	0.7379058979265101	0.6063940683691151	400	0.023679125423100085	0.04112691671292894	0.07907946082274686	0.04763484476235912	400	0.13688282687279663	0.182339471738797	0.2641602463956752	0.19311368117776517	400	0.4534282422636782	0.5283937569638961	0.6366183464678434	0.5384767898898049	400	0.7327250310213732	0.7925347524700868	0.8910489723762006	0.8041736424847039	400	0.024614203013904705	0.0644507245582922	0.09088542137492452	0.06024673015478619	400	9.0	11.0	12.0	10.795
321	fresh-en-2	1	2	QKV	16	linear_attention	400	0	400	0.878587561333552	1.2940925732254982	1.877209843322635	1.346116238751565	400	0.1360565632581711	0.21797826886177063	0.34693442583084116	0.22969867292791604	400	8.621025371466557	10.694252395723801	12.212494194587105	10.510285401402925	400	0.5388140857166598	0.6683907747327376	0.7632808871616941	0.6568928375876828	400	0.020675578964494037	0.033075438937304795	0.057062049988076555	0.036740563565140695	400	0.12957713084095532	0.1647783320134272	0.2172512957660002	0.1702304113937264	400	0.43987812749485644	0.49825836045590266	0.5864941104902756	0.5071068021861384	400	0.7262666567270635	0.776021957305673	0.8709535333453802	0.7840463441972022	400	0.03214527515774681	0.07192751393777477	0.09553289445336813	0.06913423036648955	400	9.0	11.0	12.0	11.2275
322	fresh-en-2	2	3	Q	16	full_attention	200	0	200	1.0245461883954705	1.468230809085071	1.870929591357708	1.4721055381374026	200	0.27064292430877684	0.3516651839017868	0.4466122210025787	0.35912626929581165	200	6.220617909210992	8.74608467859909	11.104585684205976	8.723040167139187	200	0.388788619325687	0.5466302924124431	0.6940366052628735	0.5451900104461992	200	0.029389973000521926	0.055292712329868564	0.10480621041744652	0.06194972526936301	200	0.18119372125826563	0.2407592321613739	0.340973026424329	0.2529695794603423	200	0.47287612193373557	0.5388058863535494	0.6219638667939771	0.5442941717340591	200	0.7370295036279807	0.7769191257507782	0.8712316291882225	0.7921125460713233	200	0.02097259430022871	0.06569261947406238	0.09258158458521229	0.059666472932346594	200	9.0	11.0	12.0	11.055
323	fresh-en-2	2	3	K	16	full_attention	200	0	200	1.047112238497357	1.3830288252793252	1.6823188211303202	1.3870920732570813	200	0.2405281513929367	0.30231399834156036	0.3850120991468429	0.3106417492032051	200	7.2917843396224	9.400851595908183	10.8279290061043	9.210093915964974	200	0.4557365212264	0.5875532247442614	0.6767455628815188	0.5756308697478109	200	0.031845273768464966	0.0467995407937716	0.0796240975505653	0.05189737358849848	200	0.18319685191509907	0.22729200392876242	0.2810025984757502	0.22800687197114072	200	0.47485990545348766	0.5331804342386007	0.615801808437866	0.5416787462808252	200	0.7361404674228293	0.7790113353487463	0.8596767360412226	0.7921691180448177	200	0.023651014209028386	0.06261707083707935	0.08731257263524209	0.05803785389371713	200	9.900000000000002	11.0	12.0	10.94
324	fresh-en-2	2	3	V	16	full_attention	200	0	200	1.319590831536334	1.6047782362438738	2.436248807935043	1.7316110165239662	200	0.28553804755210876	0.34063076972961426	0.4763486683368682	0.3643722167611122	200	7.714245961968656	10.004611715539575	11.033487342111782	9.607310112547317	200	0.482140372623041	0.6252882322212234	0.6895929588819864	0.6004568820342073	200	0.030009263889161565	0.03995084165326538	0.07162707373498824	0.04689369341071964	200	0.17848458070015924	0.20853301539657854	0.27018445710617073	0.21590573780832556	200	0.4737672318727135	0.5158876035964943	0.5829604398099849	0.5267435143700123	200	0.7354610994158117	0.7717946942656582	0.848727381471732	0.7834530778144226	200	0.02437345767900418	0.0740901848620152	0.09869208400377266	0.06531558853789118	200	10.0	12.0	12.0	11.26
325	fresh-en-2	2	3	QKV	16	full_attention	200	0	200	1.1746613873168825	1.510028968565166	2.0858569553587585	1.555826693035633	200	0.28438410758972166	0.3382027745246887	0.4241101145744324	0.3472541347891092	200	7.2575944999530355	9.508067081538398	11.0402235143104	9.32555196008267	200	0.4535996562470647	0.5942541925961499	0.6900139696444	0.5828469975051669	200	0.02994973474423352	0.04551877659702507	0.08030585122282001	0.0507103968599783	200	0.18697113209949143	0.223359743917515	0.2870124131716494	0.22866373544002264	200	0.46995368469248416	0.5211731689492343	0.5982711448874869	0.5313307769316011	200	0.7317361846740532	0.7699960939205248	0.8574193990555813	0.7850918204550286	200	0.023050843473959227	0.07008059645349982	0.09458089018701459	0.0627653209542192	200	10.0	12.0	12.0	11.15
326	fresh-en-2	2	3	JS	16	full_attention	200	0	200	0.04602197141357465	0.07628454504492765	0.1473817919920748	0.08694661521343278	200	0.018520138412714004	0.037362802773714066	0.10735419690608977	0.05066753458697349	200	1.4161641426749698	3.258386667467023	5.506307537049726	3.432265370737158	200	0.08851025891718561	0.20364916671668895	0.3441442210656079	0.21451658567107237	200	0.12705090325975432	0.2606942211190351	0.6865422169867628	0.32840330493091907	200	0.32065657972711803	0.5216855022234688	0.8383881975030106	0.5430453325998795	200	0.7088595794927229	0.8122219251794255	0.9368725031561941	0.8176237296849093	200	0.8909261078428391	0.9403066200847392	0.97681748180342	0.9366664684168806	200	0.0049321402912174805	0.013636212932307625	0.02948606380393602	0.01560636028815923	200	3.0	7.0	9.0	6.28
327	fresh-en-2	2	3	sqrtJS	16	full_attention	200	0	200	0.619015127280727	0.8163227243348956	1.0459965398535132	0.8165744480350986	200	0.13608818650245666	0.1932932659983635	0.32764911055564877	0.21182226568460463	200	5.032549758296777	9.057259810463414	10.919899757335635	8.51093830816483	200	0.31453435989354855	0.5660787381539634	0.6824937348334772	0.5319336442603019	200	0.03101657788279797	0.05110258394874739	0.1452888043355792	0.06963123683933645	200	0.1743225468570771	0.2408677450329705	0.40932954352313083	0.2626818735898847	200	0.47965442934278435	0.5493611268914893	0.6477410004917799	0.5567935643343007	200	0.7380118569484899	0.7810466112897226	0.8285687368273159	0.7808712610072976	200	0.05596665307328854	0.07573437118325474	0.09884046993322032	0.07700475198656906	200	11.0	12.0	12.0	11.61
328	fresh-en-2	3	4	Q	8	linear_attention	400	0	400	0.6649561457335949	1.219953540712595	2.6155741229653366	1.4194106929237023	400	0.12555328309535982	0.2721608132123947	0.9420243918895721	0.3764429011940956	400	4.342626532963589	6.78315662109759	7.37305452280333	6.434599875350081	400	0.5428283166204486	0.8478945776371988	0.9216318153504163	0.8043249844187601	400	0.012147427648664935	0.02562745062251169	0.1203167404662752	0.0421885130965534	400	0.18393789221082077	0.22123033414880283	0.34739905509138547	0.2430227498164566	400	0.34435490376934663	0.39991197067760337	0.6099910540013264	0.4318689205754995	400	0.6180068245846253	0.6682703104159602	0.8193543337700204	0.6833205233169053	400	0.07401470150915074	0.13653564529018658	0.1705915605731225	0.13170581241029286	400	6.0	7.0	7.0	6.83
329	fresh-en-2	3	4	K	8	linear_attention	400	0	400	0.7907507222145796	1.0601140707731247	1.778627359867096	1.179323242297396	400	0.14650939404964447	0.22052498906850815	0.4083239674568177	0.2603167027235031	400	5.886050009413602	7.128247930683139	7.540898162097042	6.914662869931459	400	0.7357562511767003	0.8910309913353924	0.9426122702621302	0.8643328587414324	400	0.008697375319168928	0.017470938767710283	0.05130655890112122	0.024679419176510172	400	0.16954972910896252	0.2015994590747333	0.2871624720706391	0.21593759971974952	400	0.32622308055882765	0.36873658603901566	0.4859077896777362	0.386379829688384	400	0.5964214954438735	0.638564818487333	0.7078618772415729	0.6473389019138014	400	0.11623127697520029	0.14770897092565854	0.17734121500350544	0.14731616216919974	400	7.0	7.0	7.0	6.98
330	fresh-en-2	3	4	V	8	linear_attention	400	0	400	0.6409734182059765	1.1392776817083359	2.0076001793146134	1.262079943222925	400	0.15022560954093933	0.28189654648303986	0.511130201816559	0.3171920324675739	400	5.362236076145741	6.40234703545636	7.178733999284263	6.32240716531783	400	0.6702795095182176	0.800293379432045	0.8973417499105328	0.7903008956647287	400	0.016343231888317926	0.035648936230736325	0.07027356911442384	0.0404301325382454	400	0.1885725024063895	0.24561921844135487	0.32716741924271	0.2513250867221497	400	0.35794038360670954	0.42953137045847345	0.5204793817786948	0.43472537312952186	400	0.6342681062884282	0.6932246356319096	0.7546039497955589	0.6929044262707964	400	0.09024454040332917	0.12160453726992959	0.1563652022050162	0.12285383392297845	400	6.0	7.0	7.0	6.7975
331	fresh-en-2	3	4	QKV	8	linear_attention	400	0	400	0.8190693102777005	1.2374368868768215	2.0703954823315143	1.3594063983578235	400	0.16075235605239868	0.2730579078197479	0.6301734447479249	0.3255896874144673	400	4.959206473016802	6.922076403074476	7.408050546007524	6.630065698013279	400	0.6199008091271002	0.8652595503843095	0.9260063182509405	0.8287582122516599	400	0.011415176960488212	0.022246092054211717	0.08759449033298618	0.03370551922904639	400	0.17829053065297845	0.21636819156727227	0.31219373655668065	0.2306513543269615	400	0.33929205434070236	0.3913489735529303	0.5654442385400866	0.41544940221099624	400	0.610030256648355	0.6560877196120638	0.7783386092981099	0.6686280734096068	400	0.09340406401752387	0.14042774014893095	0.17038689285478967	0.1382610003952424	400	6.0	7.0	7.0	6.88
332	fresh-en-2	4	5	Q	16	linear_attention	400	0	400	0.725871973251924	1.0927817510673776	1.5961486818268895	1.1253464498047834	400	0.10975784584879877	0.18688800185918808	0.2976639986038208	0.1973886680416763	400	9.144606080305957	11.040169195289979	12.496462929297083	10.866760702057006	400	0.5715378800191223	0.6900105747056237	0.7810289330810677	0.6791725438785629	400	0.018690875850746854	0.029950210817585296	0.04997799682419388	0.03326568349847979	400	0.13244567607840554	0.16490335915965082	0.2269102612737338	0.17379559340795736	400	0.42736637948507855	0.48774343052685587	0.549301814980305	0.490055095945324	400	0.7045730417174718	0.7512496564513784	0.7940561148582901	0.7505738880845146	400	0.05455163907838704	0.07978707782077019	0.10669837238701026	0.08015655235566392	400	11.0	12.0	13.0	11.885
333	fresh-en-2	4	5	K	16	linear_attention	400	0	400	0.7027743351995014	1.0270605832338333	1.4451884102076293	1.0504304503949242	400	0.0982924208045006	0.158344566822052	0.25590928792953493	0.1688550974894315	400	10.099886239607773	11.599622033851986	12.989180781691285	11.5346830629833	400	0.6312428899754858	0.7249763771157491	0.8118237988557053	0.7209176914364562	400	0.015452961870328416	0.02529037138910336	0.038945084216842604	0.026745010809668623	400	0.12199724220370352	0.15624526801278849	0.2039877630209418	0.15954533835265047	400	0.41387715423113053	0.4634863119309324	0.5152386558045284	0.46594189616232984	400	0.6849287187239039	0.729512620392049	0.7682730044586318	0.7295995038739145	400	0.06233885228403613	0.09175859392497465	0.11921372220079468	0.09076558242948948	400	11.0	12.0	13.0	12.19
334	fresh-en-2	4	5	V	16	linear_attention	400	0	400	0.3912558341631666	0.7567285923287272	1.4041822212748232	0.8495371565574896	400	0.0663964070379734	0.12796133011579514	0.2679863154888154	0.1549627908412367	400	8.374620571223424	10.606467197484676	12.448486754287075	10.463980054535737	400	0.523413785701464	0.6629041998427923	0.7780304221429422	0.6539987534084836	400	0.019019787686590774	0.033900906573831394	0.06070305565304318	0.03813133572886742	400	0.12892018755390666	0.1717914621526032	0.24626076836233604	0.18104937137524169	400	0.4349675972836492	0.5063901590932871	0.5820374696287731	0.5067521537595934	400	0.7032583166341785	0.7617751636612572	0.8195526071417653	0.7621059172178071	400	0.04370974010358383	0.07521794210632365	0.10608964861710969	0.07601459659773907	400	11.0	12.0	13.0	11.6975
335	fresh-en-2	4	5	QKV	16	linear_attention	400	0	400	0.7460156418848783	1.031875939690508	1.4543714209692553	1.0767503266842686	400	0.10474185049533845	0.1573282852768898	0.24366632252931594	0.16944135958328843	400	10.207025642508965	11.713868773294205	12.859551962901216	11.613506462098563	400	0.6379391026568103	0.7321167983308878	0.803721997681326	0.7258441538811602	400	0.01628077823305949	0.024393484965163602	0.037836518075872974	0.026007124251734917	400	0.12201895770099955	0.15177858648333475	0.19615813002495547	0.1557016226925138	400	0.41793552184923105	0.4626178792637087	0.5167179543600329	0.46530940687917977	400	0.688528433931907	0.7289389029787537	0.7678191916111183	0.7286986550684604	400	0.06668354919908978	0.09001803136812575	0.11782002194271543	0.0915935307849647	400	12.0	12.0	13.0	12.255
336	fresh-en-2	5	6	Q	16	linear_attention	400	0	400	0.851574399881065	1.2328358069062233	1.5754466176033022	1.2165507366415114	400	0.11595259755849838	0.17790406197309494	0.2672141402959824	0.18582824332639575	400	10.144826996279729	12.008939442383436	13.365911937171992	11.824821217034492	400	0.6340516872674831	0.7505587151489648	0.8353694960732495	0.7390513260646557	400	0.013138349574289217	0.022156076450375393	0.03847724505680397	0.024922356338413044	400	0.11762685243736877	0.1454348504320823	0.19613596622563284	0.1532684082947824	400	0.40208604723231467	0.4542885664670485	0.5241036642734235	0.4605019504457323	400	0.6766171783356322	0.7193171977320212	0.7668489052364801	0.7212409207161873	400	0.07826354912288486	0.10406458114392117	0.13074453552784537	0.10453888194747897	400	12.0	13.0	13.0	12.59
337	fresh-en-2	5	6	K	16	linear_attention	400	0	400	0.9205419819802045	1.1929860822856426	1.6117078525945545	1.232341660541133	400	0.11639174073934555	0.1654318869113922	0.24083938598632812	0.1722104798257351	400	11.2425955977831	12.841281073341943	14.014298838035334	12.693759180085504	400	0.7026622248614437	0.8025800670838714	0.8758936773772084	0.793359948755344	400	0.009446074381172054	0.016398801405100253	0.028210600112351745	0.018032661692684072	400	0.10973146554507106	0.13357254108664002	0.17607224719933948	0.13933373904712135	400	0.380094123444762	0.4251938429473503	0.4847483025007229	0.4290067602332053	400	0.6481372226254637	0.6922385834963585	0.735282831410127	0.6913632434448346	400	0.09058379240300399	0.12305143931827142	0.1516150179540596	0.12143871867012197	400	12.0	13.0	14.0	13.005
338	fresh-en-2	5	6	V	16	linear_attention	400	0	400	0.5877458011265845	1.0415548998862505	1.6692363888956607	1.0993071420257912	400	0.08654429689049721	0.16079697757959366	0.28185429871082307	0.1784923622198403	400	9.666959968871874	11.661491825981747	13.450360318454951	11.570768604118362	400	0.6041849980544921	0.7288432391238592	0.8406475199034344	0.7231730377573976	400	0.012637319389519576	0.0248027543790892	0.04367492999764239	0.027166561649826143	400	0.11794271700146419	0.15820390294402253	0.2139079334873493	0.163147184023073	400	0.3962766279875749	0.46450052856377977	0.5360973813516796	0.4648366761414968	400	0.6663316704905683	0.7227860066702889	0.7806851775714538	0.7229276692082195	400	0.06730682886119302	0.10217063375077115	0.1356192559712031	0.10113584053353626	400	11.0	13.0	13.0	12.47
339	fresh-en-2	5	6	QKV	16	linear_attention	400	0	400	0.9811203271150589	1.241085309535265	1.5243493417277933	1.2490848219452892	400	0.1201214000582695	0.1651734933257103	0.22961021214723587	0.17032992394641042	400	11.593473803256467	12.887066835429433	13.868540450188148	12.765544117641005	400	0.7245921127035292	0.8054416772143396	0.8667837781367592	0.7978465073525628	400	0.010246019390033518	0.01610368278507807	0.02533929999020915	0.017375070757173147	400	0.11095594144439093	0.1312068290102344	0.16660866388975967	0.13606221543516797	400	0.3856590041449349	0.4242404428273526	0.47629094480940665	0.42769903019994243	400	0.651606565151038	0.6906464399673401	0.7311633193461577	0.691344675342286	400	0.09264199161897599	0.12293169084725383	0.146209308056351	0.12200012320293563	400	12.0	13.0	14.0	13.035
340	fresh-en-2	6	7	Q	16	full_attention	200	0	200	0.7084877190412954	0.891278566326946	1.190908943209797	0.9346836907370016	200	0.14625512659549714	0.1908891573548317	0.23112499713897705	0.19082701101899147	200	7.430946544754058	9.826049778536241	11.886749461918031	9.778457250033208	200	0.46443415904712865	0.6141281111585151	0.7429218413698769	0.6111535781270755	200	0.02306910792070793	0.04188844713478518	0.07687796072289552	0.0459701504999428	200	0.14504629658108995	0.20955932631660323	0.29963729855234367	0.2124838574456277	200	0.45324123542547307	0.5194880072347068	0.5878879896926795	0.5194799418647656	200	0.7280539693123357	0.7787105701394436	0.8184943264888118	0.7755183294087458	200	0.046265510909362914	0.06914927135246665	0.09332641915006186	0.06955375247738518	200	11.0	11.0	12.0	11.465
341	fresh-en-2	6	7	K	16	full_attention	200	0	200	0.7711761617567391	0.9527064354624599	1.1831206265371292	0.9592799371527508	200	0.13922533094882966	0.17159172892570496	0.21165581047534943	0.17055463761091233	200	8.95639531920853	10.630897386457768	12.00468645647468	10.573144460786565	200	0.5597747074505331	0.6644310866536105	0.7502929035296675	0.6608215287991603	200	0.022187558960486683	0.033675476373778906	0.05243177549838167	0.03548082048283872	200	0.13912682933089573	0.16810065736711596	0.2383755651750977	0.1818558068230242	200	0.4479396457250513	0.4999939116488935	0.5482019217638111	0.499304907322295	200	0.7240805969317379	0.7683510928462524	0.8017344645478868	0.7637475068882661	200	0.050507847914963024	0.07618105889748847	0.09610291650551317	0.07379344110875108	200	11.0	12.0	12.0	11.64
342	fresh-en-2	6	7	V	16	full_attention	200	0	200	0.965393504453823	1.2215298768132925	1.4691833076998586	1.2404682144988328	200	0.16483497470617295	0.21228660643100739	0.25303093791007997	0.21185518980026244	200	8.799200835959866	10.940147770778243	12.439363305464369	10.840030299488305	200	0.5499500522474916	0.6837592356736402	0.777460206591523	0.677501893718019	200	0.019082667602235537	0.03083357565031819	0.054588137943556374	0.03318183728543704	200	0.13517085108942417	0.17056743183901052	0.2416841350071954	0.17545959436426078	200	0.4330909404135759	0.49026814352583253	0.5534017136700364	0.49009559399154495	200	0.7151451145593026	0.7577580225714826	0.7910534176273512	0.7547349806654077	200	0.05646891683339313	0.0797621571999549	0.10362217799586106	0.07947750627937097	200	11.0	12.0	13.0	11.9
343	fresh-en-2	6	7	QKV	16	full_attention	200	0	200	0.8439604148734361	1.0644298213301226	1.261562438122928	1.0658534347102977	200	0.1528593808412552	0.19050481170415878	0.22889656126499175	0.18935274064540863	200	8.836788695124728	10.754828477231866	12.225580782317998	10.629566412326012	200	0.5522992934452955	0.6721767798269916	0.7640987988948749	0.6643479007703758	200	0.02058208541327704	0.03251359570599585	0.05404294824057522	0.035148194787918224	200	0.13284157694416462	0.1788917007838831	0.24630757684507618	0.18245421864570616	200	0.44224690712953507	0.4957507159009583	0.5472988236519651	0.49561188525174443	200	0.7187324301286275	0.7608959973387576	0.7927744143058353	0.7594865973331963	200	0.05245626007919535	0.07794464082226368	0.09899585052478131	0.07606100718288497	200	11.0	12.0	12.0	11.755
344	fresh-en-2	6	7	JS	16	full_attention	200	0	200	0.02392248858304811	0.04078545750178364	0.07289505623994046	0.04433911242503797	200	0.006813149619847536	0.012385479174554348	0.033921096846461295	0.0166567829658743	200	2.2212617656104263	5.472744621966769	7.795142491361117	5.2085862491113835	200	0.13882886035065164	0.3420465388729231	0.48719640571006984	0.32553664056946147	200	0.07017116877961757	0.12823873508735031	0.41354198376766177	0.18576687870653763	200	0.21498545207837663	0.3169572328970117	0.6440030615827387	0.36982071258550403	200	0.6315613984189503	0.7645023129881782	0.9087314605696031	0.7661572128480736	200	0.8797246356687405	0.9362302054984842	0.9748901003878205	0.9285459982454779	200	0.005088591712897109	0.013080652225355354	0.029537841067918073	0.016327182162954226	200	4.0	7.0	9.0	6.975
345	fresh-en-2	6	7	sqrtJS	16	full_attention	200	0	200	0.4461918576504104	0.6388791813515127	0.8278976137051358	0.6368944962022942	200	0.08254119008779526	0.11129002645611763	0.18417678624391556	0.12279642166569829	200	6.93346311189749	10.118440127963417	11.935910340242762	9.699909515080263	200	0.43334144449359313	0.6324025079977136	0.7459943962651726	0.6062443446925164	200	0.022699839718099902	0.03875150949571206	0.08717669813312172	0.049379957173508314	200	0.133885100412968	0.17813627303394444	0.3036569467751457	0.19936827184516573	200	0.45232076974069135	0.5352846335625829	0.639442797795787	0.5414969846474517	200	0.7297303629015461	0.7925243460125426	0.8421283591605325	0.7870725151767829	200	0.04920873150533187	0.06861594240979486	0.09464068989405404	0.07117687340126778	200	10.0	11.0	12.0	11.355
346	fresh-en-2	7	8	Q	8	linear_attention	400	0	400	0.9475403716787696	1.5199985392391682	2.848604653775692	1.7078595669660717	400	0.21024447530508042	0.33023060858249664	0.6954267799854279	0.3863687488436699	400	5.973736047039369	6.550707073679574	7.141183501729546	6.552726626284552	400	0.7467170058799211	0.8188383842099467	0.8926479377161932	0.819090828285569	400	0.01718036458227772	0.03160603047934095	0.04845670865572198	0.03245687391515133	400	0.18596667118917806	0.22121750133592655	0.2773823498721183	0.22682021241034392	400	0.35483474844208424	0.4061881828475223	0.45742931466400816	0.40664474310705456	400	0.6399590823657548	0.6916321935628398	0.743822165988582	0.69155443727545	400	0.08928886839364199	0.11413019781625386	0.14220257878763606	0.11534609467094653	400	6.0	7.0	7.0	6.76
347	fresh-en-2	7	8	K	8	linear_attention	400	0	400	0.27919708881527183	1.2571341320872307	2.025203455239535	1.2936672358692158	400	0.05680582076311113	0.26616765558719635	0.4585825264453888	0.2758914006408304	400	6.0886081299349115	6.763737825909624	7.281722084110023	6.719104450220252	400	0.7610760162418639	0.845467228238703	0.9102152605137529	0.8398880562775315	400	0.01409160583417988	0.026111136705904134	0.044847044451208774	0.02809281506659452	400	0.17946903723998078	0.209847332683745	0.25088347108160275	0.21325637751392498	400	0.34328151625327247	0.3883191772211009	0.44634769264310353	0.39326432352075824	400	0.627628318180166	0.6808509069008989	0.7419748195123717	0.6833779277095695	400	0.09511912369629705	0.1189512207006724	0.15235469143409813	0.12147274598106943	400	6.0	7.0	7.0	6.815
348	fresh-en-2	7	8	V	8	linear_attention	400	0	400	0.5560215732082725	1.2039144802838564	2.0314424350857734	1.2734395997726824	400	0.12547250613570213	0.3106498569250107	0.5931588768959046	0.33314794417470694	400	4.820614982297824	6.128494330842684	7.094957404951281	6.026502389966515	400	0.602576872787228	0.7660617913553355	0.8868696756189102	0.7533127987458144	400	0.01822307230110612	0.043625390655713345	0.0942202083191823	0.05117037549818112	400	0.18951182730331725	0.2371647744489458	0.3537573652581782	0.25748651524732225	400	0.36106797176007294	0.4341225222042292	0.5424168887721682	0.445176640232646	400	0.6394117038635599	0.7372037470835603	0.81168816496379	0.7310775114703125	400	0.0632972994900409	0.09417504359183901	0.14013009375203275	0.09834316311824985	400	6.0	6.0	7.0	6.39
349	fresh-en-2	7	8	QKV	8	linear_attention	400	0	400	0.8897886473685503	1.4389472343027592	2.232282324135304	1.5217388226371258	400	0.1941849946975708	0.31244826316833496	0.5063274621963503	0.3405528075248003	400	5.909960235656925	6.612152601503761	7.118650009035148	6.55432970176772	400	0.7387450294571156	0.8265190751879701	0.8898312511293935	0.819291212720965	400	0.017686950399966022	0.02998483017147148	0.050521024781157074	0.032546556111570715	400	0.1897255665647159	0.2178013326265698	0.27631897953375517	0.22587070717356475	400	0.361817887432852	0.4006645456961199	0.4651564330240367	0.4073860225363804	400	0.6406827407529547	0.6955173933204172	0.749012257004246	0.6957762279234827	400	0.09207785183231391	0.11367357252237731	0.1433481835512107	0.11655922520866949	400	6.0	7.0	7.0	6.7775
350	fresh-en-2	8	9	Q	16	linear_attention	400	0	400	0.7115360419731587	1.0439937710762024	1.3857736611738802	1.0443064531049457	400	0.09236290529370308	0.14059225469827652	0.22423778474330908	0.15928514771163463	400	10.329231396140152	12.50995647189253	13.753422460182032	12.13841180441078	400	0.6455769622587595	0.7818722794932831	0.859588903761377	0.7586507377756737	400	0.010889786745102558	0.018598754397082296	0.03660020219070337	0.02440184357454656	400	0.10994611336698411	0.13598514571417475	0.1933031960350892	0.14976845845028763	400	0.38287847598554936	0.43292014856463196	0.5154933732154057	0.44311698135985655	400	0.6578383762955569	0.7086164120112666	0.7677076496489134	0.7119455855672101	400	0.07573352171213578	0.107449156005896	0.1366202930602535	0.10643264475801736	400	12.0	13.0	13.0	12.64
351	fresh-en-2	8	9	K	16	linear_attention	400	0	400	0.6807672576513142	0.974963310174644	1.2984531952999534	0.9798759545030771	400	0.09328625351190567	0.13503039628267288	0.2059700295329094	0.14318987669423222	400	10.599212184993458	12.667955982703834	13.891067934837128	12.378879961150792	400	0.6624507615620912	0.7917472489189896	0.8681917459273205	0.7736799975719245	400	0.010121289752088163	0.017535346976904887	0.03397217460359147	0.021134973098446478	400	0.10942133532498555	0.1391963540590544	0.18547684764023045	0.14790627644423307	400	0.38234734224822253	0.42822365600308504	0.5020354918323987	0.4364086050737439	400	0.6521138471737558	0.6943136286478239	0.7503942786056949	0.6984117187126725	400	0.08238852002209573	0.11823542816280877	0.14455765341816013	0.11489309234760356	400	12.0	13.0	14.0	12.845
352	fresh-en-2	8	9	V	16	linear_attention	400	0	400	0.4831611223286018	0.7940475479699671	1.3342432292178272	0.8646432308707154	400	0.06950774565339089	0.1110759899020195	0.2090410217642784	0.12714619062840937	400	10.272105042495769	12.430409776684805	13.710094886495344	12.145875429365494	400	0.6420065651559855	0.7769006110428003	0.856880930405959	0.7591172143353434	400	0.011134949176327338	0.019144482466073233	0.03717444247163193	0.022881927123128996	400	0.1097338134388892	0.14129537357717215	0.19121580522678916	0.1488918302125328	400	0.38390648797839433	0.4366837985809124	0.5160729927614417	0.4443359596968593	400	0.6601182355654198	0.7059374978885744	0.7620222794863211	0.7096365849417546	400	0.07539219480736424	0.10731985245973782	0.13805845186798446	0.10680251068936006	400	12.0	13.0	13.0	12.635
353	fresh-en-2	8	9	QKV	16	linear_attention	400	0	400	0.7645834688097238	1.021525981836021	1.2748212238773704	1.0192790886823786	400	0.09697603061795235	0.1280551478266716	0.18325358629226687	0.13993709091097117	400	11.107424645658568	13.168533920400463	14.203771042584014	12.789787453575755	400	0.6942140403536605	0.823033370025029	0.8877356901615009	0.7993617158484847	400	0.00843078246283047	0.014334507730421782	0.029365461584506727	0.019042905592287513	400	0.10368784826509282	0.12621936810909629	0.17411956204555842	0.13835261192646756	400	0.3641499531736103	0.40935860854645095	0.48851941828314227	0.4199359174776645	400	0.6396587235724812	0.6797688431514963	0.7452839228530924	0.6883678002534177	400	0.08084619378954223	0.12310327325881887	0.1498354664474026	0.119379236478552	400	12.0	13.0	14.0	12.92
354	fresh-en-2	9	10	Q	16	linear_attention	400	0	400	0.5841197005007416	0.9401031583547592	1.4729133268818264	0.9903671794326511	400	0.07781185954809189	0.13904079049825668	0.2652950644493104	0.17575458633713426	400	8.834842438419205	12.49349293170403	14.012138705808312	11.782312319754995	400	0.5521776524012003	0.7808433082315018	0.8757586691130195	0.7363945199846872	400	0.00945783380741601	0.018711113818747217	0.054068444625634635	0.034537719667985134	400	0.10940713010122523	0.14094804669279787	0.2511805370281058	0.17006863473202954	400	0.3753042159680791	0.4394531111199811	0.5342787203728024	0.4539802792505677	400	0.648604145073041	0.7021013378739127	0.7742851065618969	0.7105254654141082	400	0.07752604852166226	0.10976186862783553	0.1395437819744613	0.10913923282606021	400	12.0	13.0	13.0	12.63
355	fresh-en-2	9	10	K	16	linear_attention	400	0	400	0.6156108346767724	0.861966734752059	1.2304173525422812	0.8947859468188836	400	0.07210212349891662	0.1157320886850357	0.1794776350259781	0.12220309496857226	400	11.17057074991446	13.114997978301568	14.24247764727429	12.887838262200114	400	0.6981606718696538	0.819687373643848	0.8901548529546431	0.8054898913875072	400	0.008226670554726416	0.014665154393878506	0.0288223512483474	0.016937872218062325	400	0.10241423667129484	0.1284378685409256	0.17829718634563343	0.13687032016345868	400	0.3615746771455679	0.40800557286487094	0.47561984330350465	0.41474870243072537	400	0.6370494619733148	0.679463546304351	0.7393533882566252	0.6832193307346404	400	0.09515347412595569	0.12293742099214601	0.1470742924190727	0.12220169709481282	400	12.0	13.0	14.0	13.0075
356	fresh-en-2	9	10	V	16	linear_attention	400	0	400	0.41676295064389707	0.6541136433370411	1.1477090947329998	0.7216081794322236	400	0.05224834531545639	0.0884949117898941	0.15900364518165588	0.09917690190020949	400	11.030330260303392	12.9876210359939	14.1534030556992	12.767455621218362	400	0.689395641268962	0.8117263147496188	0.8845876909812	0.7979659763261476	400	0.00869801466718456	0.015462821384912647	0.030036444452319472	0.017772697435181093	400	0.10577751807946256	0.13057452366330297	0.18282527047182515	0.13808400618176797	400	0.3663485393564446	0.41596230948055457	0.4825421954347549	0.4204635050595473	400	0.635758083038972	0.6874030391119894	0.7468218358665392	0.6895351184726354	400	0.08417754588432542	0.1168618598251707	0.14936358399080804	0.11774560372145527	400	12.0	13.0	14.0	12.9075
357	fresh-en-2	9	10	QKV	16	linear_attention	400	0	400	0.6403672892600298	0.9104771688580513	1.2211272411979737	0.9242272769659757	400	0.07458450347185135	0.11616862937808037	0.18310137242078783	0.134665567856282	400	10.772418672648032	13.380891517420249	14.482153948894448	12.828896672718257	400	0.673276167040502	0.8363057198387656	0.905134621805903	0.801806042044891	400	0.006987202117806005	0.013048999080038901	0.032352025308508364	0.02051454900092564	400	0.0994989242761261	0.12471060054240976	0.19908812856916658	0.14293030111576446	400	0.3540012165816263	0.40184301910594145	0.48065173784775683	0.41348121852942255	400	0.6272533863571255	0.6733312325553102	0.7396207959319867	0.6791005129726806	400	0.09278804322953894	0.1260527955764632	0.15369825164569187	0.12467007454416365	400	12.0	13.0	14.0	13.0675
358	fresh-en-2	10	11	Q	16	full_attention	200	0	200	0.6217361217597499	0.8588953739963472	1.0879042023792862	0.8613086555473274	200	0.08656363412737847	0.11629294976592064	0.159348963201046	0.12042190544307232	200	11.3953228520266	12.512731300762585	13.4132782416839	12.47613037042567	200	0.7122076782516625	0.7820457062976616	0.8383298901052437	0.7797581481516044	200	0.012856526402063846	0.018579958774202508	0.026938991010733104	0.019195891105872546	200	0.11513253343128332	0.13881364299826554	0.17143097159637222	0.14102982263703945	200	0.39080525786206677	0.4308645946931363	0.47394323563994545	0.4325617177089401	200	0.6635725741124127	0.7006620171496789	0.7435008072174482	0.7021341925663233	200	0.08176240805240446	0.11046676702898083	0.13614845093563396	0.10948950681123809	200	12.0	13.0	13.0	12.65
359	fresh-en-2	10	11	K	16	full_attention	200	0	200	0.6621845734771341	0.8579957305919379	1.0429124694317577	0.8506134263938293	200	0.09501790776848792	0.17020879685878754	0.25952345728874204	0.17819154888391495	200	7.307132658341592	10.469349695381915	12.537312808304588	10.130102374869383	200	0.4566957911463495	0.6543343559613697	0.7835820505190367	0.6331313984293364	200	0.01841277878927808	0.035339641805613276	0.07932333009002468	0.043750259883175345	200	0.12773404649456147	0.20972890196376165	0.3066036272778399	0.20850696095522572	200	0.43167387097240234	0.49689485396721034	0.5804362123769544	0.5058431771795857	200	0.7057683465062268	0.7578576540823418	0.7957970965701755	0.7523645144562694	200	0.059384090110283	0.08781282492575032	0.119986607189019	0.08902220527905698	200	11.0	12.0	13.0	12.04
360	fresh-en-2	10	11	V	16	full_attention	200	0	200	0.7910943925846368	0.97863654140383	1.2328994596377014	0.9979268654249609	200	0.09664468690752984	0.12546798586845398	0.19318059533834456	0.13570110753178596	200	11.792154294328554	12.78981509951631	13.738854911050506	12.782749446567596	200	0.7370096433955347	0.7993634437197694	0.8586784319406566	0.7989218404104748	200	0.010976020692748436	0.01673302741598156	0.023789421906500623	0.017062277585833733	200	0.11088898793367176	0.12723890935876303	0.16986177556046966	0.13482035420128782	200	0.38509818859334677	0.42274297853856635	0.45433023531308514	0.42177799257752263	200	0.6527571320931893	0.6909240875029913	0.7220980546231547	0.6933899255987148	200	0.09048084929841958	0.11973222303212816	0.1435584635712541	0.11529275691700139	200	12.0	13.0	13.099999999999994	12.8
361	fresh-en-2	10	11	QKV	16	full_attention	200	0	200	0.7359494174830615	0.9326356733217835	1.145884907245636	0.9298488935478963	200	0.09351496696472168	0.14523176848888397	0.18735939413309097	0.14044940054416657	200	10.717571898623689	12.14954155138565	13.478252681728977	12.129532125072826	200	0.6698482436639805	0.7593463469616031	0.842390792608061	0.7580957578170516	200	0.012473213794830885	0.02112817180101991	0.03285864636076488	0.021954165683340247	200	0.11469601524654695	0.14721384419545386	0.19606222929122147	0.1517285537708352	200	0.39547905106435316	0.4473112548724165	0.48655219965937613	0.4446178318221039	200	0.6678676742594226	0.7140064867943439	0.7477165556982082	0.7120801330591198	200	0.07804972536981533	0.10655233864527767	0.13865592130473667	0.1069933877044463	200	12.0	13.0	13.0	12.665
362	fresh-en-2	10	11	JS	16	full_attention	200	0	200	0.011709015141423152	0.023373060074845853	0.043107747244721384	0.027677225003011473	200	0.0032383885001763704	0.006865991745144129	0.021535840816795822	0.012058183691115118	200	2.617147312838424	5.815193020227113	8.254860065664781	5.656953591645987	200	0.1635717070524015	0.36344956376419457	0.5159287541040488	0.3535595994778742	200	0.06255034166302798	0.11676127799835936	0.3412924810466721	0.17408890896488177	200	0.20915395264079262	0.31149713702621673	0.5872563399457557	0.3647079617739476	200	0.5989962260400519	0.7132297614635023	0.847698837654311	0.7207813611467898	200	0.8365399310151895	0.8915830096437295	0.9519819496264191	0.8918119046965123	200	0.012226791247638183	0.03101575282505921	0.05147123162550377	0.03220087854244019	200	6.0	9.0	10.0	8.37
363	fresh-en-2	10	11	sqrtJS	16	full_attention	200	0	200	0.35895347251789644	0.4935784398112446	0.6759456943720579	0.5069780787237687	200	0.05690678879618645	0.08286124840378761	0.14674851298332212	0.09638299074023962	200	7.737020182887723	11.242860968377068	12.887845618082206	10.77721058656071	200	0.4835637614304827	0.7026788105235667	0.8054903511301379	0.6735756616600443	200	0.016098762050105	0.028208400768005237	0.07119894107235233	0.03943889962605179	200	0.12761073696529185	0.16533935603053623	0.27651501951729623	0.1893869334868225	200	0.42097097663387156	0.4825174697427024	0.5681556709248554	0.49465358437463036	200	0.6907857172104901	0.7337084473227219	0.7925056622144059	0.7367745111306826	200	0.07294075788625516	0.10327805304595494	0.12654921058093285	0.10235385037661761	200	11.900000000000002	13.0	13.0	12.465
364	fresh-en-2	11	12	Q	8	linear_attention	400	0	400	0.6585037915036083	1.0366052743047476	1.698347765207291	1.1118832486122847	400	0.16585994511842728	0.269122451543808	0.43194699883461	0.2857397244684398	400	5.766887318107972	6.378005840331815	6.852469356128504	6.321907947598501	400	0.7208609147634965	0.7972507300414768	0.856558669516063	0.7902384934498127	400	0.023923220807822908	0.03633008552499549	0.055318651316807625	0.03887859885409399	400	0.21862549407077378	0.2562246356982312	0.30286513784294067	0.25898151301622235	400	0.3876836843206582	0.42757348431976333	0.4813609725200964	0.4313953994975205	400	0.6551193536133514	0.69607563471175	0.7344531629696013	0.6942436689199457	400	0.09674992031996818	0.12030398602912987	0.14672931704266212	0.12076796230809421	400	6.0	7.0	7.0	6.85
365	fresh-en-2	11	12	K	8	linear_attention	400	0	400	0.49835739079862834	0.7622699113562703	1.3046596046537162	0.8510331864375621	400	0.11305943652987481	0.18373078852891922	0.31755511164665223	0.20454091554507614	400	6.03529956471883	6.582391198098376	7.071376965194263	6.570515051296469	400	0.7544124455898538	0.822798899762297	0.8839221206492829	0.8213143814120586	400	0.018760209145151592	0.030766260270822285	0.04650504642563264	0.03174970339675074	400	0.2043056066508603	0.23715554416801127	0.28217950789867813	0.24020283982354568	400	0.37136537348366455	0.4104696007016865	0.4550114125341802	0.4128543082569678	400	0.637871213879049	0.6825733554181741	0.7160147989598735	0.6795736259618192	400	0.09710450856524641	0.126263593032124	0.15787816234856153	0.12643945319755479	400	6.0	7.0	7.0	6.8625
366	fresh-en-2	11	12	V	8	linear_attention	400	0	400	0.3862847808748484	0.691340209916234	1.2980188675224782	0.7843743969663046	400	0.08824722766876221	0.17121456563472748	0.3284576952457428	0.19910946891643108	400	5.685854589832213	6.454718360893167	7.123990747555283	6.426016882038779	400	0.7107318237290267	0.8068397951116458	0.8904988434444103	0.8032521102548473	400	0.01756658559201633	0.03420048970005613	0.05814292239942435	0.03652053052395963	400	0.19868639168482918	0.2452863847769825	0.30573357075116564	0.2489749251396205	400	0.3672617946409735	0.4211076946593562	0.48303015310338276	0.42379699164288737	400	0.6323070484406675	0.6859270871107883	0.7393421987609231	0.6866842719410409	400	0.0879796133077167	0.12453906611247592	0.1577216280429513	0.1248050757446608	400	6.0	7.0	7.0	6.79
367	fresh-en-2	11	12	QKV	8	linear_attention	400	0	400	0.5960858000442386	0.9248353596776724	1.3828169412910942	0.9651207965565846	400	0.14527591764926912	0.22725511342287064	0.3509412556886673	0.2391181750036776	400	6.063482297071264	6.539409334908655	6.95838795906213	6.520378251282575	400	0.757935287133908	0.8174261668635818	0.8697984948827663	0.8150472814103219	400	0.02138451755322308	0.03190743977307786	0.04562484202200335	0.032932086800386305	400	0.21624988597682096	0.24726052579291943	0.2805743548299556	0.24793255908994405	400	0.3804082681794955	0.4168007836452087	0.4570258765267173	0.4175042367290196	400	0.6434106658886266	0.6822706703654456	0.7172646386012852	0.6810418443972257	400	0.10341423148344439	0.1269471468572378	0.15234006823375013	0.12737356391466184	400	7.0	7.0	7.0	6.9275
368	fresh-en-2	12	13	Q	16	linear_attention	400	0	400	0.5140243185684085	0.7920748987235129	1.1551996864378453	0.8140374513078131	400	0.06810176596045495	0.13050541281700134	0.251472294330597	0.14869230702053757	400	7.874273309005751	11.88183766573001	13.534692318513763	11.31794255617015	400	0.49214208181285946	0.7426148541081257	0.8459182699071102	0.7073714097606344	400	0.012143157628396328	0.023106402567392298	0.06879571274137361	0.03242616866654701	400	0.1164679432137447	0.15833257620357294	0.2773857082299796	0.17768206318013377	400	0.39273568915913487	0.45555855734480527	0.5680478718475891	0.4686920617749388	400	0.660196853867253	0.7149244874266525	0.7869323944033125	0.7203228783552319	400	0.06899433487709615	0.10371179677678083	0.13568015701791938	0.10345697955422561	400	12.0	13.0	13.0	12.52
369	fresh-en-2	12	13	K	16	linear_attention	400	0	400	0.44422444636002184	0.6919434266164899	0.9595235832035541	0.7011545427032979	400	0.05618530847132206	0.09301932528614998	0.15045668482780455	0.10033432116732001	400	10.896132260288613	12.92931383462771	14.296623088959658	12.67545317468886	400	0.6810082662680383	0.8080821146642319	0.8935389430599786	0.7922158234180537	400	0.007943026983376742	0.015833201310398573	0.03122808843760217	0.018803924330804918	400	0.1054994942503602	0.13410669269866463	0.18984302195683495	0.1430864474045428	400	0.363691579874421	0.4145974071768297	0.480399693824184	0.421414109193494	400	0.6353106666018974	0.6837706148599079	0.7386731066289942	0.6855477444922334	400	0.0843145747951138	0.11882039731830371	0.15189258629770644	0.11832944097123402	400	12.0	13.0	14.0	12.885
370	fresh-en-2	12	13	V	16	linear_attention	400	0	400	0.376494140806608	0.541369981598109	0.7962690744549036	0.5764037169746007	400	0.04890311174094677	0.08070170879364014	0.13778375983238222	0.0900493144756183	400	9.527226237796368	12.360909484199293	13.843344504417884	11.99486402921892	400	0.595451639862273	0.7725568427624558	0.8652090315261177	0.7496790018261825	400	0.010386004584463192	0.019626876421897258	0.04529328083330095	0.024739735408045672	400	0.11004525402605796	0.14458336260850846	0.20806728621438073	0.15546372474206735	400	0.3737145111206523	0.43525136714895185	0.5446724807047612	0.44695648296364354	400	0.6523517020951934	0.707901832186951	0.7778340035212765	0.7104704246967427	400	0.07093523604405214	0.10413444660212752	0.13966353078490817	0.10520553208159095	400	12.0	13.0	13.0	12.5425
371	fresh-en-2	12	13	QKV	16	linear_attention	400	0	400	0.5387952663935721	0.7266457374207675	0.9496303943917156	0.7384376674389932	400	0.06586806327104569	0.10212142392992973	0.17609018981456756	0.11457111104391515	400	9.476262916606661	12.947377101791986	14.181008159236807	12.363944172275371	400	0.5922664322879163	0.8092110688619991	0.8863130099523004	0.7727465107672107	400	0.008551307445155348	0.01571810774166306	0.04589590617656452	0.02225628328954557	400	0.107075439997774	0.13595151685328521	0.23367813466074183	0.15390933474586632	400	0.3684700040285315	0.41702953683889665	0.5146765833114179	0.4303525675793141	400	0.6381493072555713	0.6832719126453037	0.7575018798145321	0.690981991446235	400	0.08155230895063056	0.11706748204150516	0.15319979313781287	0.11643783478021458	400	12.0	13.0	14.0	12.855
372	fresh-en-2	13	14	Q	16	linear_attention	400	0	400	0.42049874875228854	0.6985972025431693	1.0954076325055213	0.7200234394970175	400	0.06011932790279389	0.10995443910360336	0.19416973143815996	0.12071008232887834	400	9.162027009890991	11.446607892785817	13.212946769971035	11.356921255088993	400	0.572626688118187	0.7154129932991136	0.8258091731231897	0.7098075784430621	400	0.014062248601453034	0.02651961574055583	0.04975589869505585	0.02934730008147822	400	0.12073815146540877	0.15511095905245254	0.21539201670479174	0.16448574644534125	400	0.3992550324521137	0.4702941416850507	0.5472397187304222	0.4716237269053883	400	0.6768506602356483	0.7412111068388272	0.8046870765854471	0.738592453266898	400	0.061167809322643624	0.09106666122986318	0.12516601039308387	0.09257473676133615	400	11.0	12.0	13.0	12.145
373	fresh-en-2	13	14	K	16	linear_attention	400	0	400	0.4758277563843876	0.6827202637214214	1.057620588410646	0.7333224972593598	400	0.06510360017418862	0.11021097749471664	0.2081768810749054	0.12774660379625857	400	8.980181122005643	11.521050686512435	13.314499401001456	11.309624952967015	400	0.5612613201253527	0.7200656679070272	0.832156212562591	0.7068515595604384	400	0.013446529720084784	0.02591748653125247	0.052113450811571156	0.030320957863654064	400	0.12136523098862693	0.15721476075394644	0.2321326793025227	0.170089630661764	400	0.39901906867964754	0.46555782945250557	0.5501973891413354	0.4713077309972695	400	0.673487442721642	0.730033003203183	0.7944826314665893	0.7323775137275578	400	0.06511153296210259	0.09582224228560879	0.1289328561222271	0.09687990705826895	400	11.0	12.0	13.0	12.275
374	fresh-en-2	13	14	V	16	linear_attention	400	0	400	0.30862216246314345	0.5312029414344579	1.0219840514473617	0.6212735211847757	400	0.045331576839089394	0.08282066881656647	0.20124808400869373	0.10813434640411287	400	8.992598925655413	11.350617520662826	13.248108879949134	11.201552822160334	400	0.5620374328534633	0.7094135950414266	0.8280068049968209	0.7000970513850209	400	0.013847991994298562	0.02730766245917689	0.05194945383731177	0.031540521598602086	400	0.12092832728121225	0.15668393060403474	0.23699532797560094	0.16993667231881587	400	0.4000641499410667	0.4737242153864769	0.550510154174634	0.47554504123131885	400	0.6743398373025041	0.7361090009961326	0.8028703638614197	0.7394394933665182	400	0.061502177138027525	0.08960915296860791	0.1258830479843296	0.09198020681054957	400	11.0	12.0	13.0	12.115
375	fresh-en-2	13	14	QKV	16	linear_attention	400	0	400	0.48345836913213136	0.677657678257674	1.068379379063845	0.733251446299837	400	0.0650777868926525	0.10329722985625267	0.1931288555264473	0.11795299745164811	400	9.848221217927714	11.954553764669317	13.426058184609053	11.750584120806014	400	0.6155138261204821	0.7471596102918323	0.8391286365380658	0.7344115075503759	400	0.012780828555945102	0.02256014342544023	0.0416439350857866	0.025719569482384595	400	0.11656162320577884	0.15067448433241595	0.21081136887559945	0.1578423051113009	400	0.3940907516459466	0.45018347929992764	0.5230745381936387	0.45582092482299785	400	0.669903351195225	0.7207791397968842	0.7866715311365536	0.7245171354178033	400	0.06856908740434238	0.1011358195210721	0.12883521299310802	0.10015703404234326	400	11.0	13.0	13.0	12.4025
376	fresh-en-2	14	15	Q	16	full_attention	200	0	200	0.7049972745124251	0.8899055793881416	1.1669517185539007	0.9203884942614241	200	0.1240799032151699	0.1511080414056778	0.186514076590538	0.1534906815737486	200	9.503825882184657	11.174141047488817	12.702964606742553	11.119277171337721	200	0.593989117636541	0.6983838154680511	0.7939352879214095	0.6949548232086076	200	0.017303233253231038	0.02879216623273185	0.04556924952720596	0.03038624733290586	200	0.1349017368789534	0.16770862522174174	0.21542470858880955	0.17112763128678515	200	0.43059907741352055	0.47592402079533874	0.5434344902613643	0.4803329820455383	200	0.6934577041475769	0.7381528979159269	0.7885428321222366	0.7401341938504029	200	0.061372071255080755	0.08446531177219777	0.11785570645136519	0.08705442820343615	200	11.0	12.0	13.0	12.055
377	fresh-en-2	14	15	K	16	full_attention	200	0	200	0.45457539928611373	0.6414374079322442	0.8653815173543988	0.6461106917937286	200	0.07908274456858636	0.12040147557854652	0.22711606472730636	0.144260450899601	200	7.204369813443333	8.645827316830077	10.507961661652688	8.749846571517578	200	0.4502731133402083	0.5403642073018798	0.656747603853293	0.5468654107198486	200	0.03484372072810417	0.056709255645598214	0.08139181294403315	0.05838574212628363	200	0.15131892568507502	0.21290678939925223	0.27013355097804137	0.21577672181211788	200	0.5125191982669594	0.5870638359900611	0.6600453982861173	0.5871069600615655	200	0.7756898716995415	0.8133486899155924	0.8557175525727936	0.8165585936352225	200	0.03781294526171493	0.05061813563414566	0.07682514540786327	0.05352413251675745	200	10.0	11.0	12.0	10.68
378	fresh-en-2	14	15	V	16	full_attention	200	0	200	0.4376588855870069	0.5745079589542001	0.8202009979984722	0.5979214567807503	200	0.07054382637143135	0.11756329610943794	0.201433789730072	0.13071663424372673	200	6.993813354137333	9.502488411628033	11.173564591082418	9.307959857131271	200	0.4371133346335833	0.593905525726752	0.6983477869426511	0.5817474910707044	200	0.02879716657027992	0.045587345657064605	0.08585920150173122	0.05179412105106945	200	0.16116937969705944	0.19552122153860346	0.2935391270012225	0.21266438212015878	200	0.48055182039679933	0.5499934886925004	0.6207462725634811	0.5523162002499324	200	0.725393864829569	0.7791946311405197	0.8346104175327279	0.783780711555217	200	0.044673435958950854	0.06134272989925878	0.09588651958489398	0.06685632775907234	200	10.0	11.0	12.0	11.28
379	fresh-en-2	14	15	QKV	16	full_attention	200	0	200	0.6537230805493891	0.7794557483866811	0.911126397177577	0.7828541885322192	200	0.11116750985383987	0.12902627885341644	0.15805570930242538	0.13244120195508002	200	9.07384844548802	10.53057160834012	12.056999577608554	10.55645541397451	200	0.5671155278430012	0.6581607255212575	0.7535624736005346	0.6597784633734068	200	0.02180200952197641	0.03462583220526033	0.050887279333119116	0.03563068161830936	200	0.1369891791787797	0.16929981055153218	0.21023479356583566	0.17131985011908718	200	0.45246805026559067	0.511033573909291	0.5692540338094116	0.5111686588743951	200	0.7185958869888703	0.7621207160887895	0.8114361646969457	0.7644355925077724	200	0.053444759849850344	0.07224500930324185	0.10663638382072271	0.0755794682677014	200	11.0	12.0	13.0	11.7
380	fresh-en-2	14	15	JS	16	full_attention	200	0	200	0.014904379848849203	0.026413629350372503	0.0540445632568435	0.03173870663458047	200	0.004110403498634696	0.0087392907589674	0.019521798379719256	0.011973647387931123	200	2.861618878531048	5.263653175745896	7.449828850302678	5.275311005872961	200	0.1788511799081905	0.3289783234841185	0.4656143031439174	0.32970693786706007	200	0.07651338448512326	0.13598132604987107	0.3060867089903157	0.16751286446273184	200	0.2222518855844168	0.3230173395912448	0.528403858435191	0.3538174925693752	200	0.63932631152739	0.7556958862192491	0.8842163670081871	0.7586556977394497	200	0.8747839717769333	0.9299194141226115	0.9748954353768851	0.9263114769021038	200	0.0043998137459033675	0.013607161124437913	0.029801979308480706	0.016334177442489106	200	5.0	7.0	9.0	7.1
381	fresh-en-2	14	15	sqrtJS	16	full_attention	200	0	200	0.38702396722510457	0.506677265977487	0.707418407453224	0.5327011090918677	200	0.06411192044615746	0.09348417446017265	0.13972039222717286	0.10226278582587839	200	7.170381058306093	10.101540135856517	12.000093265242583	9.853055460709545	200	0.4481488161441308	0.6313462584910323	0.7500058290776614	0.6158159662943465	200	0.022221571063954997	0.038928103948196784	0.08209690865050921	0.046867267852027876	200	0.13829966249706946	0.1801738810065037	0.2613564666782947	0.19297507424713756	200	0.45189410439643896	0.5258846711689636	0.6351730220499668	0.5368699061987069	200	0.727661096728591	0.783550899996448	0.8467842429308771	0.7843328184845805	200	0.04680053111145946	0.07342024934251046	0.09930788474187263	0.07250668411934788	200	10.0	12.0	12.099999999999994	11.415
382	fresh-en-2	15	16	Q	8	linear_attention	400	0	400	0.2320575937628746	0.5322947492823005	0.9188685007393361	0.559514098247746	400	0.0472423680126667	0.11171611398458481	0.2524071633815766	0.13249188045505433	400	6.092628934655876	6.9917212111703595	7.5293326445809345	6.8600262858100844	400	0.7615786168319845	0.8739651513962949	0.9411665805726168	0.8575032857262606	400	0.00893016740475101	0.020601516766076564	0.044723156428977937	0.025025582764470027	400	0.17497371085421026	0.21793800585465006	0.2865698437033712	0.2267381196699099	400	0.331596422282716	0.38473894855222435	0.4587044440794619	0.39070012922871017	400	0.6003033099244138	0.6480833171909904	0.6998345051171003	0.6499021649704855	400	0.1194707958933655	0.14829763454647954	0.17762547775044726	0.14859746028409979	400	7.0	7.0	7.0	6.9825
383	fresh-en-2	15	16	K	8	linear_attention	400	0	400	0.34262026101350784	0.4971428979188204	0.7807130020111799	0.5310543482680805	400	0.06791906505823135	0.09871680662035942	0.17410916537046434	0.11112485434859991	400	6.518257990587267	7.143171478334613	7.50875932857435	7.062172275708563	400	0.8147822488234083	0.8928964347918267	0.9385949160717938	0.8827715344635704	400	0.009346055173906798	0.017135851433285092	0.03247454087671984	0.019491178117720123	400	0.17530283539612135	0.20274180443933637	0.24309324932461412	0.2063879982120222	400	0.33364534112453303	0.3716677462837455	0.4277645887028576	0.377350375956223	400	0.6017706266195831	0.6417687834736032	0.6821793213838873	0.6431848589515745	400	0.12444789018833036	0.15167583006297886	0.17584070087276774	0.15103809420178305	400	7.0	7.0	7.0	6.9925
384	fresh-en-2	15	16	V	8	linear_attention	400	0	400	0.32602587770670655	0.4621168877929449	0.7086701847612858	0.49040348157519476	400	0.06605661436915397	0.09446703270077705	0.16306437849998476	0.10618776489049196	400	6.263861332508568	6.992001949390662	7.47726908207445	6.907336182267288	400	0.782982666563571	0.8740002436738328	0.9346586352593063	0.863417022783411	400	0.009987057034498651	0.020594920497567996	0.03959538698888185	0.0234216272444666	400	0.17644309316809192	0.21015049973555658	0.2636617949382394	0.2158625973810412	400	0.33610390574607335	0.3806103899526042	0.4435405500634746	0.3867185703502098	400	0.607336420564203	0.6523536741265021	0.7024837519510545	0.6543994685092415	400	0.10984429635563063	0.1420636937652275	0.17200168756686693	0.14167503409984736	400	7.0	7.0	7.0	6.965
385	fresh-en-2	15	16	QKV	8	linear_attention	400	0	400	0.37200659178197387	0.5081001911312342	0.7878896970301866	0.5486908619687892	400	0.0702376864850521	0.10316241160035133	0.18526293486356737	0.11697604967281222	400	6.563621919816764	7.1215012116356835	7.511731622909114	7.080342978912206	400	0.8204527399770954	0.8901876514544604	0.9389664528636392	0.8850428723640258	400	0.009285830694326213	0.017622664738356546	0.031262753237405336	0.018961252042295266	400	0.1760623462927111	0.20970139901764695	0.24491636633738073	0.20956979455483943	400	0.3360903035758347	0.3763538170686719	0.4228447583942967	0.3765759853725727	400	0.6017050275108086	0.6392522680250385	0.6790912422993212	0.6395308363905688	400	0.12947080538561662	0.15434068220642166	0.17772254938263024	0.15408179181000842	400	7.0	7.0	7.0	7.0
386	fresh-en-2	16	17	Q	16	linear_attention	400	0	400	0.1085345599334687	0.3044695033458993	0.5816921635996553	0.3317287538452365	400	0.01683701928704977	0.049399444833397865	0.11030996143817902	0.058014235245063904	400	9.229399787565718	11.886896362316751	13.234198517401213	11.516750571159532	400	0.5768374867228574	0.7429310226447969	0.8271374073375758	0.7197969106974708	400	0.013932597831426786	0.023068006376980647	0.04890615759698003	0.028173328629623212	400	0.12057433153286591	0.15549514767286884	0.23648735264615434	0.16957008243780244	400	0.403095806095696	0.45259752386454255	0.5251389796537858	0.4608624075511165	400	0.6753789030552525	0.7160758468890634	0.7680216261011761	0.7186141916510397	400	0.07696109625121009	0.10065438455511688	0.1241151191308039	0.10036718667623962	400	12.0	13.0	13.0	12.4725
387	fresh-en-2	16	17	K	16	linear_attention	400	0	400	0.33116912653204056	0.46913142944686115	0.6506060735322535	0.4812123993656132	400	0.04388701356947422	0.0646263025701046	0.09916348606348042	0.0697169864596799	400	10.87705579406867	12.457501568607814	13.464126368375455	12.270798161065265	400	0.6798159871292919	0.7785938480379884	0.8415078980234659	0.7669248850665791	400	0.012556199623217088	0.018957782145829757	0.031399088282413314	0.02108005474020307	400	0.1145285039390494	0.13915957265075468	0.17745788813584668	0.14421377076112074	400	0.3928316145957058	0.4363479765460262	0.490318864802938	0.44091555492957424	400	0.6700197563849883	0.7034869357897249	0.7515198644850047	0.7073033561722883	400	0.08374345367302802	0.10508455141487005	0.12361803168150694	0.10423911605414356	400	12.0	13.0	13.0	12.585
388	fresh-en-2	16	17	V	16	linear_attention	400	0	400	0.28255533720366655	0.423395493067801	0.6171590889338404	0.4434045745941694	400	0.03979641795158386	0.06506848335266113	0.10764199793338779	0.07013003543019294	400	10.09951054613533	11.958473006345713	13.328806294171443	11.820632508603271	400	0.6312194091334581	0.7474045628966071	0.8330503933857152	0.7387895317877045	400	0.013360505256380906	0.022530927727687042	0.03894903736665824	0.02482202165340298	400	0.11826739633807055	0.14877456166822284	0.20391101382022597	0.15686592937223254	400	0.39400684420372545	0.45158922151833314	0.513464475044495	0.4533322668834755	400	0.6707049864585859	0.7164318789297386	0.7706257095443808	0.7183819383351073	400	0.07070406254588904	0.0964823347720808	0.12163351131454482	0.0971764623563012	400	12.0	12.0	13.0	12.345
389	fresh-en-2	16	17	QKV	16	linear_attention	400	0	400	0.32350265779532494	0.42999072023667395	0.5844419991131872	0.4470250720006879	400	0.04192870482802391	0.062201663851737976	0.094621791690588	0.06564131278079004	400	11.124814148890323	12.440573657442897	13.514234330125452	12.349607539070137	400	0.6953008843056452	0.7775358535901811	0.8446396456328408	0.7718504711918835	400	0.012262465718847473	0.019074341063877013	0.02921511806282596	0.02036726513200726	400	0.1145015379225922	0.14024794291861875	0.18191238830038425	0.14600216013468897	400	0.3919264023828508	0.4331876597144522	0.47996719785151387	0.43598256306971395	400	0.6669100879930713	0.6986729381404595	0.7363915671355837	0.701304738617103	400	0.08882192647304224	0.10731304228675474	0.12782467412950016	0.10747044825949968	400	12.0	13.0	13.0	12.6875
390	fresh-en-2	17	18	Q	16	linear_attention	400	0	400	0.13763023200444877	0.3529496125411242	0.5568669612053784	0.35054396654159065	400	0.030687961168587206	0.0800715796649456	0.13235853016376498	0.08292097771074623	400	6.658014901675	9.243927936934593	11.321158567131214	9.065815690553787	400	0.4161259313546875	0.5777454960584121	0.7075724104457009	0.5666134806596117	400	0.027552196919900872	0.04872440847686482	0.09354124706469702	0.05642254382577788	400	0.17142501418176423	0.22711146033201887	0.3262057494171524	0.2415134645887589	400	0.4663069913505754	0.5318772971829004	0.613014221545787	0.536602171746518	400	0.7105110959780384	0.7602443471740941	0.8198411769674526	0.7629732328056466	400	0.05998198612638311	0.0889009804126683	0.11650302900768214	0.08845847442436043	400	11.0	12.0	13.0	12.0125
391	fresh-en-2	17	18	K	16	linear_attention	400	0	400	0.19883154276758433	0.2954140636138618	0.40346070094965397	0.29965475216333287	400	0.04514831975102425	0.0642731711268425	0.09372542873024942	0.06783392469864338	400	7.906841109318626	9.591328927092752	11.05916798171566	9.513039838876228	400	0.49417756933241413	0.599458057943297	0.6911979988572288	0.5945649899297643	400	0.029784235439758857	0.044544895554277306	0.06823767220344004	0.047517636753710076	400	0.18330129880890875	0.22452382334950755	0.2783122954801211	0.2281208903763998	400	0.46882541920942256	0.5182381573417467	0.5724095001831397	0.519114885578425	400	0.7086208819167649	0.7491074952133822	0.7917617115412752	0.7491364760497023	400	0.07306811501924196	0.09330699933777993	0.11448166563062899	0.0936800138964556	400	12.0	12.0	13.0	12.2525
392	fresh-en-2	17	18	V	16	linear_attention	400	0	400	0.28444457799196243	0.3630967023782432	0.45597007940523326	0.3637144808400626	400	0.0793171465396881	0.1099793016910553	0.14340544492006302	0.11055116172879935	400	5.449002454264216	7.169715087298332	9.159322458861219	7.292064867678073	400	0.3405626533915135	0.44810719295614576	0.5724576536788262	0.4557540542298796	400	0.04979031588999661	0.08210726814932501	0.12908788777952088	0.08534510477266291	400	0.2275076766560479	0.304358772877504	0.3852397863253127	0.30553109295196634	400	0.5202239070530834	0.5809983232691766	0.6408350362306928	0.5804667233276897	400	0.7446693264412652	0.7903827221443913	0.8341884896091187	0.7887792027778626	400	0.05523496896452342	0.07734455379774244	0.1007349571650742	0.077462259151827	400	11.0	12.0	13.0	11.6325
393	fresh-en-2	17	18	QKV	16	linear_attention	400	0	400	0.2726540342206135	0.3497917263302952	0.4507372446823866	0.35851804855599767	400	0.06908265724778176	0.09028414636850357	0.11531217396259309	0.0914928696397692	400	6.99736486634175	8.626527176708391	10.199950754906038	8.621321676547014	400	0.43733530414635935	0.5391579485442745	0.6374969221816273	0.5388326047841884	400	0.037909002368310844	0.05698295606792783	0.08577167323521356	0.05969194416241507	400	0.20867346104384704	0.25352088080773016	0.318953709083286	0.2581033836577386	400	0.4847197183754404	0.5421503847934435	0.596555002856954	0.5405944285523794	400	0.7239841826850536	0.7607130600760493	0.8091307269586864	0.7625232584955556	400	0.06783719863765901	0.08910564246661917	0.10996562019324782	0.08922603927521826	400	11.0	12.0	13.0	12.08
394	fresh-en-2	18	19	Q	16	full_attention	200	0	200	0.42757751084864143	0.5230707763694227	0.623913636431098	0.523064110004343	200	0.05711409337818623	0.07461196184158325	0.09367594867944717	0.07470580890774726	200	11.466939779549499	12.33142999800727	13.481048622419559	12.43487338785972	200	0.7166837362218437	0.7707143748754544	0.8425655389012224	0.7771795867412326	200	0.012456870719173582	0.019833247767654966	0.02635437368042571	0.019425617263753484	200	0.11472723122608172	0.14210603154735793	0.17203850183889974	0.1431110726478567	200	0.39747848194073016	0.4376963473520394	0.4673599444431738	0.4334353424413451	200	0.6624763710759516	0.7010310731547114	0.7276196839336242	0.698137449359788	200	0.08707615862431772	0.10363501618374782	0.13017170704975234	0.10571968263476972	200	12.0	13.0	13.0	12.61
395	fresh-en-2	18	19	K	16	full_attention	200	0	200	0.20267673855414617	0.26819515600800514	0.38065635652746993	0.2836863338272087	200	0.030279337987303735	0.04774639382958412	0.07978882864117622	0.05156202740967274	200	6.9299383809995305	11.589019573828669	12.560871745914906	10.804585159062722	200	0.43312114881247066	0.7243137233642918	0.7850544841196816	0.6752865724414201	200	0.0182534377753106	0.025375051020589817	0.08725504007676868	0.03835028287723017	200	0.12665546188124854	0.15545078681979718	0.32251684503747546	0.18796522027918108	200	0.42949668474000813	0.4730632412117409	0.5794746658855122	0.48465156572000195	200	0.6993039538116211	0.734882659380923	0.7727455707432611	0.7347246414117103	200	0.0715860178744928	0.09003949689377036	0.1137184324089872	0.09046827534980585	200	12.0	12.0	13.0	12.2
396	fresh-en-2	18	19	V	16	full_attention	200	0	200	0.20082818543305622	0.29495606874115765	0.6489377400837838	0.34538337372941896	200	0.030973949842154982	0.04259492643177509	0.08486507013440128	0.04948415517807007	200	11.270526070956597	12.5153241698754	13.15626103425461	12.304607497077141	200	0.7044078794347873	0.7822077606172125	0.8222663146409132	0.7690379685673213	200	0.01441057002181766	0.01856220547063987	0.027984429958809228	0.02051271267254148	200	0.11948379833520846	0.1426770442590663	0.18009878482584504	0.14739157076583984	200	0.40052369223218276	0.4364863712970779	0.49386150582910465	0.44035768244442025	200	0.6644330382050988	0.6972576949266994	0.7391482885838664	0.6989389518054057	200	0.08870273412087466	0.10777155010632213	0.13419630339558541	0.11004420455784586	200	12.0	13.0	13.0	12.72
397	fresh-en-2	18	19	QKV	16	full_attention	200	0	200	0.3187912561465055	0.3973900239216164	0.5418821140192449	0.4125086717179511	200	0.04147509410977364	0.05560419522225857	0.07609003633260726	0.05739068113267422	200	11.783751877479908	12.551006713767334	13.390163316749993	12.594410992552143	200	0.7364844923424942	0.7844379196104584	0.8368852072968745	0.787150687034509	200	0.012993802096629491	0.018319966636286975	0.023853459206771628	0.018279396113407467	200	0.1188703471968148	0.1370972023157161	0.16924785426310193	0.1398349652228136	200	0.3940755289456063	0.429976479939846	0.4579784135669662	0.425522191419923	200	0.6661560316585446	0.6937954723285793	0.7228878057773872	0.6928534788094453	200	0.08730105550587129	0.10398373882169466	0.1271444609130742	0.10548742279737996	200	12.0	13.0	13.0	12.61
398	fresh-en-2	18	19	JS	16	full_attention	200	0	200	0.008706798572291063	0.015453939310873466	0.03442741068347459	0.01911709053846181	200	0.0037327888188883667	0.009708748199045658	0.0266639232635498	0.012770538186305202	200	1.5059478175314827	2.3283594286352995	4.116339641849155	2.6889541231606904	200	0.09412173859571767	0.14552246428970622	0.2572712276155722	0.16805963269754315	200	0.19252173614791507	0.3914527550231741	0.6416584119354828	0.3951190433640895	200	0.3956409484070341	0.6260428077448426	0.8054351139186814	0.6035878985229525	200	0.7962501512945249	0.8953137420203126	0.9632413753752798	0.8845474427626331	200	0.9318388328149693	0.9669840990752945	0.9886394396485646	0.9622941005012189	200	0.0023902814363606756	0.0070997641679930515	0.015701510673880717	0.00834999646838886	200	2.0	5.0	7.0	4.69
399	fresh-en-2	18	19	sqrtJS	16	full_attention	200	0	200	0.2726464945706539	0.3351541784359142	0.4111551860230975	0.33943474419385894	200	0.06109372414648533	0.09853297099471092	0.16328971683979032	0.10558945152908564	200	4.581190917138312	6.8349791647576525	9.555185215208226	7.015182438322473	200	0.2863244323211445	0.4271861977973533	0.5971990759505141	0.43844890239515455	200	0.04496617828490613	0.08939369954827804	0.16617676051723185	0.09804455836945618	200	0.2054372444484531	0.3007280504621388	0.42127846114557815	0.30452780939168195	200	0.5441094234248772	0.6236289718739731	0.7210506092576822	0.624288171046703	200	0.7732819012082369	0.8172121234100993	0.8676815183336485	0.8195356628470304	200	0.04113805877573698	0.05931367226440325	0.0796330337137415	0.060107127351147156	200	10.0	11.0	12.0	10.84
400	fresh-en-2	19	20	Q	8	linear_attention	400	0	400	0.19636926748789849	0.3737413245253265	0.7455098735168579	0.4317249461938627	400	0.0561393216252327	0.11652319878339767	0.2691425144672395	0.14500154570676385	400	3.781425561090029	5.3601973546721355	6.5043925661095265	5.285367241796815	400	0.47267819513625364	0.6700246693340169	0.8130490707636908	0.6606709052246019	400	0.032848339172776526	0.07035480165704709	0.15937204783001485	0.082338023266222	400	0.23558289767644666	0.3080199574311538	0.43976827110062566	0.32248501975995725	400	0.41137546752474796	0.49757233928735234	0.6189178983533311	0.507225095286354	400	0.6986783501620449	0.7781729574854495	0.8393759392324694	0.7729004649541511	400	0.04611218775255068	0.07977457802361287	0.12533499807559303	0.08310780628550236	400	5.0	6.0	7.0	6.1575
401	fresh-en-2	19	20	K	8	linear_attention	400	0	400	0.2715590732172132	0.3915023892186582	0.5892058109864593	0.41847740480676293	400	0.06700540557503701	0.13213234394788742	0.21548925787210468	0.13812848344445228	400	3.9644857074188375	5.237713909518571	6.379980753076168	5.185816127496865	400	0.4955607134273547	0.6547142386898214	0.797497594134521	0.6482270159371081	400	0.036274632940844334	0.07534056217791668	0.14541673298290295	0.0849890932502861	400	0.2211288538878345	0.31495851303457045	0.43831249732726235	0.32375402667934283	400	0.41497044143403233	0.5085400588304572	0.603827091783469	0.5096543621422766	400	0.7146781850739098	0.793135609397762	0.8452458740866686	0.7871139775394203	400	0.052284735010082274	0.07615704305699926	0.11636898154706803	0.08089804937152166	400	5.0	6.0	7.0	6.08
402	fresh-en-2	19	20	V	8	linear_attention	400	0	400	0.2860807956662029	0.3882336001843214	0.5453923731110991	0.4017216757388087	400	0.07818588316440582	0.11009020358324051	0.1486593157052994	0.11164668465964496	400	4.679217592501005	5.462776386624757	6.442537551489562	5.508469296504302	400	0.5849021990626256	0.6828470483280946	0.8053171939361953	0.6885586620630377	400	0.03453524964039636	0.06635097192331006	0.10138396037154597	0.0677175304641024	400	0.2205279695088007	0.27653192198698834	0.35001018067429557	0.2832949663385313	400	0.4159615513000868	0.49343059615356283	0.564648585632793	0.4910596547834028	400	0.7143338810062791	0.7825154308458101	0.8369935778249042	0.7766638077569504	400	0.053039416667978005	0.07703381392118297	0.11406830664335589	0.08069623203013988	400	6.0	6.0	7.0	6.145
403	fresh-en-2	19	20	QKV	8	linear_attention	400	0	400	0.31194027569144966	0.42065423633903265	0.5931314354762435	0.44246456083026714	400	0.08693632557988167	0.12472729757428169	0.2035938858985901	0.13940269940532743	400	4.334423673019394	5.407631796753555	6.391932861852066	5.379497786397486	400	0.5418029591274243	0.6759539745941944	0.7989916077315082	0.6724372232996858	400	0.03593967170483023	0.06848439796484443	0.12081438677746437	0.07498650116350601	400	0.2384753246246652	0.3019447968162412	0.39957510590191697	0.30958533981383385	400	0.4246707545636565	0.4912165863537561	0.5835972253436295	0.5000045410854458	400	0.7149501127286828	0.7797110573051228	0.8321428663735164	0.7773511702333551	400	0.053740398757915045	0.07950203808466441	0.11619507676837203	0.08234057986134341	400	6.0	6.0	7.0	6.1775
404	fresh-en-2	20	21	Q	16	linear_attention	400	0	400	0.0944188019959256	0.1680199622642249	0.46999255025293685	0.22138458650631945	400	0.014066648390144109	0.025365962646901608	0.07215343192219735	0.03527150228386745	400	9.94542153212465	12.332537448822226	13.834321524744075	12.054440117128793	400	0.6215888457577906	0.7707835905513891	0.8646450952965047	0.7534025073205496	400	0.01043627378188883	0.01982540165800768	0.04058536642190044	0.023772514248491125	400	0.11415238065793695	0.1449168858870434	0.20887553905260986	0.15565118911152287	400	0.3784897791639427	0.43984841018365184	0.520770652627754	0.4469525918593737	400	0.6491178740153054	0.6989797713652504	0.7700941628948379	0.7045989875848571	400	0.08196609391826343	0.11121721888997373	0.135585486809666	0.11011050524863669	400	12.0	13.0	13.0	12.6825
405	fresh-en-2	20	21	K	16	linear_attention	400	0	400	0.1553449919214472	0.3284362788544968	0.46580453640781344	0.3255010169596062	400	0.019309617951512335	0.04998108930885792	0.07802436202764514	0.051652491395361724	400	10.112869596649878	12.140647900375713	13.555393678617923	12.014119017021844	400	0.6320543497906174	0.7587904937734821	0.8472121049136202	0.7508824385638653	400	0.012022797635518475	0.02119245906767083	0.03880949552275217	0.023374987505603538	400	0.11746402116903758	0.14708840406711504	0.1997164962097928	0.1538883251724416	400	0.3946804893592625	0.4507209224256568	0.5191507282247122	0.45227312175362405	400	0.6591835646087836	0.7053762308186753	0.7572995643437069	0.706362779427598	400	0.08826001029498089	0.10980113125194035	0.12963658655305632	0.10953078095266065	400	12.0	13.0	13.0	12.7125
406	fresh-en-2	20	21	V	16	linear_attention	400	0	400	0.24610960150603206	0.33345380052924156	0.4636389989871532	0.34665939436585175	400	0.036685409024357796	0.05327794328331947	0.07877509221434596	0.0563099325960502	400	9.650735735217621	11.961758330819446	13.591701403209575	11.774095242182323	400	0.6031709834511013	0.7476098956762154	0.8494813377005984	0.7358809526363952	400	0.011812593219218053	0.022506431471185556	0.04386037725062987	0.02540942495557738	400	0.11711459138056532	0.15849506971870725	0.22093748543810188	0.16407553907762198	400	0.39415425732103515	0.45199717380316057	0.5252389259368915	0.4552764471878465	400	0.6606170728395946	0.7035443625468585	0.7654001386290459	0.7079187180077756	400	0.08322719339825481	0.11206296650910452	0.1340001316373146	0.10957291798143194	400	12.0	13.0	13.0	12.6925
407	fresh-en-2	20	21	QKV	16	linear_attention	400	0	400	0.2192056284286082	0.3048442618455738	0.43132772911340006	0.3180543637496885	400	0.031235205940902233	0.04505884647369385	0.0744130350649357	0.04928936725482345	400	10.54853366147434	12.336939471102387	13.434625556564349	12.12591724181429	400	0.6592833538421462	0.7710587169438992	0.8396640972852718	0.7578698276133932	400	0.012730165462966956	0.019794543040218077	0.034453411946210745	0.022181090789244334	400	0.1196964550855682	0.147663426437664	0.19485974580928841	0.153904185983046	400	0.3977922079599433	0.44243689923627283	0.5042185415706971	0.4464144991842383	400	0.659661631623256	0.6982276061626742	0.7470673451632667	0.701594577851577	400	0.09097804809875128	0.11217887654075043	0.1320368256478356	0.11200223589373332	400	12.0	13.0	13.0	12.7825
408	fresh-en-2	21	22	Q	16	linear_attention	400	0	400	0.07465632332023234	0.1763467611745	0.3216036592843012	0.1842719748154923	400	0.00944373616948724	0.02016234863549471	0.04492337629199029	0.02447875889018178	400	11.489974358685906	13.529115638552211	14.41965328360699	13.176239360514693	400	0.7181233974178691	0.8455697274095132	0.9012283302254369	0.8235149600321683	400	0.007306449433027784	0.012175655442994992	0.026167930132232127	0.015299707206320883	400	0.09850261001602743	0.11986406603030042	0.16879798242503982	0.1288752609688239	400	0.3564816515023045	0.3966787826978869	0.4716702216214862	0.407213556426683	400	0.6328487142250238	0.668187681932958	0.7269915450220852	0.6743946039483469	400	0.09442408962594716	0.1262257020568354	0.15097898995177586	0.12492133267363645	400	12.0	13.0	14.0	13.04
409	fresh-en-2	21	22	K	16	linear_attention	400	0	400	0.08607032083673402	0.23734343308024108	0.3494748550467193	0.23013745411095443	400	0.009764208178967237	0.02878650091588497	0.044984512403607374	0.028351587974466384	400	12.306782893026407	13.69663516776928	14.384490019313473	13.50020783840073	400	0.7691739308141504	0.85603969798558	0.8990306262070921	0.8437629899000456	400	0.007487278337847642	0.011211372182066085	0.020006431855014405	0.012703791839631391	400	0.09973423736048238	0.11633916168143431	0.1514512248690472	0.12222266447256452	400	0.35975750019190544	0.39224237876476253	0.44387400091772616	0.3964694375989395	400	0.6342348600367494	0.6641490677655085	0.702789232772759	0.666704540574569	400	0.10663006013771607	0.13163995043804105	0.15472944548814763	0.1312462945499237	400	13.0	13.0	14.0	13.215
410	fresh-en-2	21	22	V	16	linear_attention	400	0	400	0.15097150593064726	0.2187712574377656	0.33062250157818207	0.23200085987729835	400	0.017389082722365858	0.026713361032307148	0.044422946870327	0.02900975369149819	400	12.123516251089276	13.443493024263015	14.24772073244708	13.28422429438394	400	0.7577197656930797	0.8402183140164384	0.8904825457779425	0.8302640183989962	400	0.008199111451688336	0.012677791288831078	0.021316724204018932	0.01402975999582461	400	0.10064683133587765	0.11903770139027724	0.15727264642600053	0.12513866998148138	400	0.36375490990386006	0.3964178184364736	0.44596621778918694	0.4018450259454208	400	0.6404647585238622	0.6741458008304297	0.7094336916910313	0.6748553358775312	400	0.09421735261008773	0.12281289406550458	0.1455637953736346	0.12207746365194243	400	12.0	13.0	14.0	12.9775
411	fresh-en-2	21	22	QKV	16	linear_attention	400	0	400	0.1377473527798429	0.22763161081820726	0.32312043346464636	0.22664083327341358	400	0.015442042518407107	0.025853493250906467	0.04127332791686058	0.027464078390039504	400	12.578656784241392	13.779425358663643	14.399339272468593	13.571881802743754	400	0.786166049015087	0.8612140849164777	0.8999587045292871	0.8482426126714846	400	0.007410816896254725	0.010743431989218625	0.01813311245291724	0.012353065752644533	400	0.0991115348925056	0.11310238370270181	0.14767937554256752	0.11974534817076432	400	0.3574570285066608	0.38745698551623375	0.434436467421694	0.3931747333994167	400	0.6314371797980757	0.6616147261190861	0.7001875144950055	0.6635699854491495	400	0.10619212825382134	0.1306143631814062	0.15330991255189336	0.13017780839078574	400	13.0	13.0	14.0	13.195
412	fresh-en-2	22	23	Q	16	full_attention	200	0	200	0.4077480868436396	0.5050136065110564	0.6341044765431434	0.5159503794205375	200	0.0643241509795189	0.09346378222107887	0.14473298937082288	0.10397742537781596	200	8.361438404634018	10.518244704039269	12.30221077821351	10.401023852394692	200	0.5225899002896262	0.6573902940024543	0.7688881736383444	0.6500639907746683	200	0.020038711503719456	0.034744588510674135	0.06090474549722623	0.038727804176916285	200	0.14226534576937322	0.18904798433998926	0.26578619389687175	0.19816989772034468	200	0.43839015202788456	0.4945601244139046	0.5553302326674202	0.4969300791234712	200	0.7050979452291856	0.7439753273532166	0.7826048305770043	0.7433319831584491	200	0.07203942007137484	0.09260553752437467	0.11093091531183412	0.09204702738079593	200	11.0	12.0	13.0	12.275
413	fresh-en-2	22	23	K	16	full_attention	200	0	200	0.3755889473017306	0.47076327656395733	0.581899765599519	0.4729545893985778	200	0.08717131987214091	0.13724636286497116	0.22178117930889124	0.14249079771339893	200	5.435378124647292	6.934805246347662	10.194222073562033	7.568671746522788	200	0.3397111327904557	0.4334253278967289	0.637138879597627	0.47304198415767423	200	0.03796845500268491	0.08714716652241361	0.12960034093723702	0.08296236858822484	200	0.1893935052342641	0.3168746647082327	0.3869430771756581	0.29637058430905894	200	0.5063040539163814	0.5830770944622221	0.6325416870627971	0.5711063411653369	200	0.7447132827350567	0.7919737712246697	0.8155735258190694	0.7853247213264524	200	0.05935570799699881	0.07279473383185983	0.08710182772121657	0.07311338543335372	200	11.0	12.0	12.0	11.52
414	fresh-en-2	22	23	V	16	full_attention	200	0	200	0.23842049092054368	0.31944643915630877	0.5010916820261624	0.33829028678825124	200	0.04843153841793537	0.10620660334825516	0.23915957659482945	0.12683624900877477	200	3.3867849355124995	6.319961977706251	9.887261323639493	6.481598718751385	200	0.21167405846953122	0.3949976236066407	0.6179538327274683	0.40509991992196154	200	0.04121874843574775	0.10212129352471129	0.24833903577570068	0.1260952975866286	200	0.18909270740037554	0.3281606458752409	0.5219596541903744	0.34333320647224697	200	0.5287464002532282	0.6194831380739054	0.7541563252536652	0.6364672949888174	200	0.7859215117997448	0.8312104503023139	0.8866019380897033	0.8345750326931796	200	0.03668195491471114	0.052776126478365964	0.0787661586026387	0.05470767903080984	200	9.0	10.5	12.0	10.4
415	fresh-en-2	22	23	QKV	16	full_attention	200	0	200	0.36500207604840396	0.463483129395172	0.591547960229218	0.46953482207958586	200	0.0683653011918068	0.1145361103117466	0.19546185880899422	0.12639000492170452	200	5.68450203936997	8.349205648359964	11.13561512926826	8.462177238303555	200	0.3552813774606231	0.5218253530224978	0.6959759455792662	0.5288860773939722	200	0.02912209851682172	0.06109168875431771	0.12097804262640702	0.06723230822763684	200	0.16227343022583332	0.26477958399582235	0.3677970639682868	0.2626599213938303	200	0.48099272016296724	0.554040017768743	0.6180777985127296	0.550899471825888	200	0.735756746659926	0.7769178279885305	0.8103034565834726	0.7748067273259538	200	0.062487366454123124	0.07966180443947153	0.09900878833797638	0.0796716360105363	200	11.0	12.0	12.0	11.785
416	fresh-en-2	22	23	JS	16	full_attention	200	0	200	0.0012135659423137214	0.007214870226903258	0.012908981638338446	0.007276498641497913	200	0.0005508021858986467	0.003033301909454167	0.00825609192252159	0.004046378126477066	200	1.9597116099469432	2.893045380434243	4.568850724774657	3.13245915280203	200	0.12248197562168395	0.1808153362771402	0.28555317029841604	0.19577869705012688	200	0.16679896723177956	0.30204067509107413	0.4776355939223207	0.31428818102730444	200	0.3570597728925854	0.5292406933011643	0.7051504978165276	0.5258299567516221	200	0.7918961961439432	0.8734844680449818	0.9327463827750408	0.8671854212585104	200	0.9305979376284169	0.9640200868536802	0.9839926204582717	0.9595663811844602	200	0.0030538325890119454	0.008476923657072453	0.016210899278690762	0.009102293092427282	200	3.900000000000002	5.0	7.0	5.245
417	fresh-en-2	22	23	sqrtJS	16	full_attention	200	0	200	0.09078306090086699	0.23895533673930913	0.30426530304830524	0.22054257429139398	200	0.023469170182943346	0.055075300857424736	0.09086301401257516	0.058427924080751835	200	6.046355040516195	7.619268179768053	9.585119576904154	7.71124691949597	200	0.3778971900322622	0.4762042612355033	0.5990699735565096	0.48195293246849813	200	0.0446169532993613	0.0733306737639372	0.10978017114031512	0.0772446894596137	200	0.19773511533094978	0.2665851835263795	0.32795801759184384	0.26523541761548086	200	0.5384536096770526	0.6047399313588374	0.6823232703752686	0.6100649683213264	200	0.7721297210241375	0.8152846236318051	0.8642578252561324	0.8177328237062715	200	0.041858638850155665	0.06342044784640975	0.08085008476584839	0.062306743584434034	200	10.0	11.0	12.0	10.865