<html><body><div style="color:#000; background-color:#fff; font-family:Courier New, courier, monaco, monospace, sans-serif;font-size:14px"><div><span>Hello everyone, h</span><span style="background-color: transparent;">oping my message will pass this time to the forum.&nbsp;</span></div><div style="color: rgb(0, 0, 0); font-size: 14px; font-family: 'Courier New', courier, monaco, monospace, sans-serif; font-style: normal; background-color: transparent;"><span>It is clear from the discussion that validity of the PISA test and political implications are the main issues to be solved by the users and authorities. The technical issues are very interesting and should be discussed in this forum as has been said by other colleagues. With the explanation of different techniques and consequences we can all improve our knowledge of the Rasch model.</span></div><div style="color: rgb(0, 0, 0); font-size: 14px; font-family: 'Courier New', courier, monaco, monospace,
 sans-serif; font-style: normal; background-color: transparent;"><span>Following this discussion, if the Rasch model is not suitable for PISA, what is the model to use?</span></div><div style="color: rgb(0, 0, 0); font-size: 14px; font-family: 'Courier New', courier, monaco, monospace, sans-serif; font-style: normal; background-color: transparent;"><span>Regards</span></div><div style="color: rgb(0, 0, 0); font-size: 14px; font-family: 'Courier New', courier, monaco, monospace, sans-serif; font-style: normal; background-color: transparent;"><span>Agustin Tristan</span></div><div></div><div>&nbsp;</div><div>INSTITUTO DE EVALUACION E INGENIERIA AVANZADA.<br>Ave. Cordillera Occidental No. 635<br>Colonia Lomas 4ª San Luis Potosí, San Luis Potosí.<br>C.P. 78216 MEXICO<br>(52) (444) 8 25 50 76 / (52) (444) 8 25 50 77 / (52) (444) 8 25 50 78<br>Página Web (en español): http://www.ieia.com.mx<br>Web page (in English):
 http://www.ieesa-kalt.com/English/Frames_sp_pro.html</div> <div class="qtdSeparateBR"><br><br></div><div class="yahoo_quoted" style="display: block;"> <div style="font-family: 'Courier New', courier, monaco, monospace, sans-serif; font-size: 14px;"> <div style="font-family: HelveticaNeue, 'Helvetica Neue', Helvetica, Arial, 'Lucida Grande', sans-serif; font-size: 16px;"> <div dir="ltr"> <font size="2" face="Arial"> On Thursday, October 2, 2014 9:08 AM, Fabio La Porta &lt;fabiolaporta@mail.com&gt; wrote:<br> </font> </div>  <br><br> <div class="y_msg_container"><div id="yiv0026682529"><div><div style="font-family: Verdana; font-size: 12px;"><div>Hi Steve.</div>


<div>First: DIF can also be viewed as a violation of invariance. The Rasch model tells that ability estimates are independent from the difficulty estimates and vice versa. This must hold for the sample as a whole but also for any subsamples drawn from the main sample, irrispective of the factor used to make such partitions.</div>


<div style="margin:0 0 10.0px 0;">Second: I think that the word 'testlet' may have different meaning. For instance, in PISA, the word 'testlets' seems to refer to the fact that items are organized in some sort of hierarchical structure (i.e. booklet --&gt; testlet --&gt; items). In such a context, items within a testlet may display local dependence if they have a similar content.</div>

<div style="margin:0 0 10.0px 0;">On the other hand, within Rasch analysis, it is possible to create 'testlets", that is to group locally dependent items into 'superitems" with the specific aim of absorbing local dependency. So, for instance, if you have to dichotomous locally dependent item, you can create a superitem from those two, with a scoring structure 0-1-2. This is a technique frequently used with some Rasch softwares (e.g. RUMM) as an alternative way to item deletion for dealing with local dependency when item reduction is not a desiderable option.</div>
I hope this helps.




<div style="margin:0 0 10.0px 0;"><b>Sent:</b>&nbsp;Thursday, October 02, 2014 at 2:17 PM<br clear="none">
<b>From:</b>&nbsp;"Steve Kramer" &lt;skramer1958@verizon.net&gt;<br clear="none">
<b>To:</b>&nbsp;rasch@acer.edu.au<br clear="none">
<b>Subject:</b>&nbsp;[Rasch] DIF,Uni-dimensionality, and testlets</div>

<div style="margin:10.0px 5.0px 5.0px 10.0px;padding:10.0px 0 10.0px 10.0px;border-left:2.0px solid rgb(195,217,229);"><div class="yiv0026682529yqt6306747920" id="yiv0026682529yqtfd81151">
</div><div><div class="yiv0026682529yqt6306747920" id="yiv0026682529yqtfd03433">Dear List-serve,<br clear="none">
I participate in these conversations mainly as a student, trying to learn<br clear="none">
from more expert Rasch modelers. Dr. Kreiner's response, below, to my<br clear="none">
earlier query raises two points I only partially understand, and I would<br clear="none">
appreciate help.<br clear="none">
<br clear="none">
First: I had always viewed DIF as a special case of uni-dimensionality<br clear="none">
violation. That is the way I have explained it to others. Am I wrong? How<br clear="none">
should I think about it?<br clear="none">
<br clear="none">
Second: I had been taught that test-lets are a big violation of Rasch<br clear="none">
modeling assumptions because they create local dependence. In the email<br clear="none">
below, Dr. Kreiner notes that PISA uses testlets. So: when are testlets<br clear="none">
"not too bad", i.e., when is Rasch a close-enough approximation or reality<br clear="none">
that it can be used despite the presence of teslets? Is there a way to tell<br clear="none">
or a rule of thumb to use? (Honestly, I'd prefer the rule-of-thumb because<br clear="none">
I'm often too pressed for time to do an extra set of complex analyses.) This<br clear="none">
is a practical question for me, because I have to ammend some tests that<br clear="none">
both want to use a Rasch model and use testlets.<br clear="none">
<br clear="none">
<br clear="none">
Steve Kramer<br clear="none">
The 21st Century Partnership for STEM Education<br clear="none">
<br clear="none">
<br clear="none">
<br clear="none">
<br clear="none">
<br clear="none">
-----Original Message-----<br clear="none">
From: rasch-bounces@acer.edu.au [mailto:rasch-bounces@acer.edu.au] On Behalf<br clear="none">
Of Svend Kreiner<br clear="none">
Sent: Monday, September 29, 2014 5:04 AM<br clear="none">
To: rasch@acer.edu.au<br clear="none">
Subject: Re: [Rasch] PISA critique in TES - a competition?<br clear="none">
<br clear="none">
Hi All,<br clear="none">
<br clear="none">
So it is back to PISA. Again.<br clear="none">
<br clear="none">
It is correct that I and Karl Bang Christensen show that the Rasch model<br clear="none">
does not fit PISA’s reading items, but the problem as we see it does not<br clear="none">
have anything to do with multidimensionality. The fundamental fundamental<br clear="none">
problem is that PISA disregards DIF relative to Country and disregards that<br clear="none">
fact that the testlet structure in PISA has creates local dependence among<br clear="none">
items. The DIF problem means that country means are confounded, and the<br clear="none">
local dependence means that the estimates of the variance of the person<br clear="none">
parameter are inflated, and both of these problems influence the ranks of<br clear="none">
the countries. Whether or not this is important is another matter. We<br clear="none">
therefore tried to assess the robustness of the ranks in several ways<br clear="none">
including comparison of PISAQ’s ranks with the ranks from a model that takes<br clear="none">
DIF and local dependence into account. Our reading of the results is that<br clear="none">
the model errors do matter. I suggest that you read our paper and draw your<br clear="none">
own conclusions. If you have other ideas about how to test the robustness we<br clear="none">
will be very happy to hear them and promise to try them out and send you the<br clear="none">
results.<br clear="none">
<br clear="none">
Up to last summer, PISA has never admitted in print that there is DIF<br clear="none">
relative to Country. The most interesting thing that came out of the TES<br clear="none">
discussion last year is therefore the letter by Andreas Schleicher that you<br clear="none">
can find at <a rel="nofollow" shape="rect" target="_blank" href="http://www.tes.co.uk/article.aspx?storycode=6345213">http://www.tes.co.uk/article.aspx?storycode=6345213</a> where he<br clear="none">
admits that “it is nonsense” to assume “that there should be no variability<br clear="none">
in performance on individual question between students in different<br clear="none">
countries”. That is, that it is nonsense to assume that there is no DIF<br clear="none">
relative to Country.<br clear="none">
You can read my response at<br clear="none">
<a rel="nofollow" shape="rect" target="_blank" href="http://www.tes.co.uk/article.aspx?storycode=6360708">http://www.tes.co.uk/article.aspx?storycode=6360708</a>. Schleicher’s statement<br clear="none">
is nothing less than remarkable, because it is the first time that PISA<br clear="none">
admits that PISA has a DIF problem. It is also remarkable, because it<br clear="none">
follows that he must regard PISA’s Rasch model as a nonsense model. Let me<br clear="none">
quote PISA’s technical reports to put his remarks in perspective. In these<br clear="none">
reports, you can read statements like “The interpretation of a scale can be<br clear="none">
severely biased by unstable item characteristics from one country to the<br clear="none">
next” (page 86 in the report from 2006) and “consistency of item parameter<br clear="none">
estimates across countries was of particular interest” (page 147 in the same<br clear="none">
report). These and similar statements can be found in all the technical<br clear="none">
reports, so we have to assume that they mean it. Schleicher’s remarks can<br clear="none">
therefore only mean one of the following things. He either disagrees with<br clear="none">
the way ACER has analysed the data, he has not read the technical reports,<br clear="none">
or he does not understand what he has read. Whatever the reason, the point<br clear="none">
he makes is important. To use his own words, it requires little<br clear="none">
consideration to realise that the idea of no DIF relative to Country is<br clear="none">
nonsense.<br clear="none">
He then goes on to claim that “PISA has convincingly and conclusively shown<br clear="none">
that the design of the tests and the scaling model used to score them lead<br clear="none">
to robust measures of country performance that are not affected by the<br clear="none">
composition of the item pool” and that “the results of these analyses are<br clear="none">
documented in the PISA technical reports”. This, of course, is a complete<br clear="none">
falsehood and typical of the way PISA argues when they have to defend<br clear="none">
themselves. There is nothing whatsoever about assessment of robustness of<br clear="none">
PISA ranks in the technical reports. Please check yourself, if you do not<br clear="none">
believe me. The only thing I know of from their hands is a report on science<br clear="none">
items in PISA 2006. Karl and I have commented on it in our Psychometrika<br clear="none">
paper. The report (Adams R, Berezner A. &amp; Jakubowski, M. Analysis of PISA<br clear="none">
2006 preferred items ranking using the percent-correct method) can be<br clear="none">
downloaded at <a rel="nofollow" shape="rect" target="_blank" href="http://www.oecd.org/pisa/pisaproducts/pisa2006/44919855.pdf">http://www.oecd.org/pisa/pisaproducts/pisa2006/44919855.pdf</a>).<br clear="none">
It was published after our discussion back in March 2010. During this<br clear="none">
discussion, Ray Adams did not refer to this or similar reports and I am sure<br clear="none">
that no such reports existed at that time, because he could have closed our<br clear="none">
discussion back then before it started to get serious.<br clear="none">
Anyway, you do not have to believe me. Download the things yourself and see<br clear="none">
what you can find. And remember to ask PISA about the precise references<br clear="none">
every time they claim to and reported something.<br clear="none">
<br clear="none">
And finally, we do appreciate the benefit of the doubt, but actually want<br clear="none">
more than this. Please read our Psychometrika paper and let us know, if you<br clear="none">
find some errors. We will be happy to acknowledge and correct them. It is<br clear="none">
perhaps too much to ask, but it would also be nice if somebody would read<br clear="none">
PISA's technical reports. Until now, I know of nobody besides me and Karl<br clear="none">
who has done so, but it would be much more difficult for PISA to avoid the<br clear="none">
discussion if people systematically checked their claims. And the only way<br clear="none">
to do it is by reading their reports.<br clear="none">
<br clear="none">
Best<br clear="none">
<br clear="none">
Svend<br clear="none">
<br clear="none">
________________________________________<br clear="none">
From: rasch-bounces@acer.edu.au [rasch-bounces@acer.edu.au] on behalf of<br clear="none">
Borsboom, Denny [D.Borsboom@uva.nl]<br clear="none">
Sent: Monday, September 29, 2014 9:48 AM<br clear="none">
To: rasch@acer.edu.au<br clear="none">
Subject: Re: [Rasch] PISA critique in TES - a competition?<br clear="none">
<br clear="none">
Hi all<br clear="none">
<br clear="none">
isn't it somewhat strange that one should buy a commercial book to assess<br clear="none">
the details on dimensionality assessment of one of the largest psychometric<br clear="none">
attacks on the tax payer's wallet in the history of mankind?<br clear="none">
<br clear="none">
In general, the lack of publicy available data and documentation on the<br clear="none">
psychometric procedures followed is worrying. I'd suggest that if PISA wants<br clear="none">
to gain back some street credibility in scientific circles, they simply have<br clear="none">
to make public the data, analysis code, and decision procedures used to<br clear="none">
arrive at their results. By this I don't mean the woolly stuff that's in the<br clear="none">
tech reports I've seen, but simply datasets with analysis code that<br clear="none">
reproduce the analyses used to assess e.g. dimensionality and DIF.<br clear="none">
<br clear="none">
As long as PISA cannot offer such documentation, we should give Kreiner the<br clear="none">
benefit of the doubt, simply because, in contrast to PISA's, his work is in<br clear="none">
fact sufficiently detailed to pass the minimum scientific tresholds of<br clear="none">
reproducibility and transparency.<br clear="none">
<br clear="none">
Best<br clear="none">
Denny<br clear="none">
<br clear="none">
________________________________<br clear="none">
From: rasch-bounces@acer.edu.au [rasch-bounces@acer.edu.au] on behalf of<br clear="none">
Brady Michael Jack [bradyjack@gmail.com]<br clear="none">
Sent: Monday, September 29, 2014 3:23 AM<br clear="none">
To: rasch@acer.edu.au<br clear="none">
Subject: Re: [Rasch] PISA critique in TES - a competition?<br clear="none">
<br clear="none">
Hi Steve,<br clear="none">
<br clear="none">
In the article "Linking PISA competencies over three cycles - results from<br clear="none">
Germany", Claus H. Carstensen (p. 204) explains how the uni-dimensionality<br clear="none">
of PISA items are assessed. His description may be of value to the<br clear="none">
conversation.<br clear="none">
<br clear="none">
Carstensen, C. H. (2013). Linking PISA competencies over three cycles -<br clear="none">
results from Germany. In M. Prenzel, M. Kobarg, K. Schöps &amp; S. Rönnebeck<br clear="none">
(Eds.), Research on PISA: research outcomes of the PISA research conference<br clear="none">
2009 (pp. 199-214): Springer.<br clear="none">
<br clear="none">
Respectfully,<br clear="none">
Brady<br clear="none">
<br clear="none">
On Mon, Sep 29, 2014 at 8:51 AM, Steve Kramer<br clear="none">
&lt;skramer1958@verizon.net&lt;mailto:skramer1958@verizon.net&gt;&gt; wrote:<br clear="none">
There is a lot of noise in the TES article, but one potentially legitimate<br clear="none">
problem: Kreiner claims that the PISA questions violate the Rasch<br clear="none">
uni-dimensionality assumption to such a degree that a Rasch model can't be<br clear="none">
used, or at least can't be used with sufficient precision to rank countries<br clear="none">
meaningfully. He says he tested this by trying out legitimate subsets of<br clear="none">
questions, and investigating whether the differing subsets predicted<br clear="none">
rankings that were similar to one another-and they didn't.<br clear="none">
Specifically, "Canada could have finished anywhere between second and 25th<br clear="none">
and Japan between eighth and 40th.".<br clear="none">
Ray Adams responded by saying that PISA accounts for this problem, noting,<br clear="none">
"We have always shown things like range of possible ranks, standard errors<br clear="none">
and so on. We've also reported the effects of item selection ."<br clear="none">
<br clear="none">
In fact the 2012 country report on Japan looks nothing like "between 8th and<br clear="none">
40th". In 2012 Japan was ranked between 1st and 3rd in all subjects.<br clear="none">
Kreiner may have been using data from a different year, but I can't imagine<br clear="none">
that the RANGE of possible ranks shrank from 32 (40-8) down to 2 (3-1). I<br clear="none">
see only two possibilities: either Kreiner's methodology was absolutely<br clear="none">
lousy, or else the PISA "range of ranks" was computed ASSUMING<br clear="none">
uni-dimensionality and did not adequately CHECK for uni-dimensionality.<br clear="none">
<br clear="none">
Ray, do you have any technical articles you can reference explaining how<br clear="none">
PISA either designed test items for uni-dimensionality or else checked that<br clear="none">
uni-dimensionality was an adequate model for creating country ranks? Also,<br clear="none">
are there any tech reports on how PISA determined each country's potential<br clear="none">
range of ranks? Finally, I'd appreciate any tech reports in which PISA<br clear="none">
investigated how choosing differing subsets of items affected country<br clear="none">
ranking, or else articles (not necessarily PISA) explaining why a procedure<br clear="none">
like Kreiner's sub-setting is not a legitimate test. I suspect that<br clear="none">
Kreiner's claims are simply based on invalid methodology, but I'd like to be<br clear="none">
able to verify that suspicion.<br clear="none">
<br clear="none">
Steve Kramer<br clear="none">
The 21st Century Partnership for STEM Education<br clear="none">
<br clear="none">
-----Original Message-----<br clear="none">
From: rasch-bounces@acer.edu.au&lt;mailto:rasch-bounces@acer.edu.au&gt;<br clear="none">
[mailto:rasch-bounces@acer.edu.au&lt;mailto:rasch-bounces@acer.edu.au&gt;] On<br clear="none">
Behalf Of Mike Linacre<br clear="none">
Sent: Sunday, September 28, 2014 6:13 PM<br clear="none">
To: rasch@acer.edu.au&lt;mailto:rasch@acer.edu.au&gt;<br clear="none">
Subject: Re: [Rasch] PISA critique in TES - a competition?<br clear="none">
<br clear="none">
Yes, Jason.<br clear="none">
<br clear="none">
Are PISA, TIMSS and similar studies really intended to advance education<br clear="none">
worldwide or to advance political agendas? If the answer is "political<br clear="none">
agendas" then the most politically-acceptable statistical methodologies are<br clear="none">
the ones to choose. If the answer is "advance education" then everyone,<br clear="none">
including the politicians, should be working towards discovering and using<br clear="none">
the most effective statistical methodologies.<br clear="none">
<br clear="none">
According to <a rel="nofollow" shape="rect" target="_blank" href="http://www.rasch.org/software.htm">www.rasch.org/software.htm</a>&lt;<a rel="nofollow" shape="rect" target="_blank" href="http://www.rasch.org/software.htm">http://www.rasch.org/software.htm</a>&gt;<br clear="none">
there are now seven Rasch-related R modules. They are free. Wonderful! But<br clear="none">
there are 5,889 R modules. We will need more Rasch R modules before we make<br clear="none">
a noticeable impact.<br clear="none">
<br clear="none">
Mike L.<br clear="none">
<br clear="none">
<br clear="none">
On 9/28/2014 21:21 PM, liasonas wrote:<br clear="none">
&gt; Mike, this is a great idea. But can the policy makers and the<br clear="none">
&gt; politicians allow us (the academics) to spoil their new toys ( the<br clear="none">
&gt; international studies)? The politicians use us (the academics) to<br clear="none">
&gt; produce data and reports which then the politicians use to carry out<br clear="none">
&gt; their little in-fightings and political debates.<br clear="none">
&gt; We cannot afford to angry them, because we need their money and<br clear="none">
&gt; support. Maybe we need to train them on how to use our data most<br clear="none">
&gt; appropriately and sensibly. Pisa and Timms tables, for example, can be<br clear="none">
&gt; useful, but they are not the equivalent of The Bible.<br clear="none">
&gt; Having said all that, we need to thank Margaret and the other<br clear="none">
&gt; researchers for providing the methodological tools and packages (have<br clear="none">
&gt; you all had a glance of the TAM package on the R platform?). But we<br clear="none">
&gt; also need to thak Paul for seeding the seeds of doubt, because this is<br clear="none">
&gt; the only way for science to prosper.<br clear="none">
&gt; Jason<br clear="none">
<br clear="none">
________________________________________<br clear="none">
Rasch mailing list<br clear="none">
email: Rasch@acer.edu.au&lt;mailto:Rasch@acer.edu.au&gt;<br clear="none">
web:<br clear="none">
<a rel="nofollow" shape="rect" target="_blank" href="https://mailinglist.acer.edu.au/mailman/options/rasch/skramer1958%40verizon">https://mailinglist.acer.edu.au/mailman/options/rasch/skramer1958%40verizon</a>.<br clear="none">
net<br clear="none">
<br clear="none">
________________________________________<br clear="none">
Rasch mailing list<br clear="none">
email: Rasch@acer.edu.au&lt;mailto:Rasch@acer.edu.au&gt;<br clear="none">
web:<br clear="none">
<a rel="nofollow" shape="rect" target="_blank" href="https://mailinglist.acer.edu.au/mailman/options/rasch/bradyjack%40gmail.com">https://mailinglist.acer.edu.au/mailman/options/rasch/bradyjack%40gmail.com</a><br clear="none">
<br clear="none">
<br clear="none">
<br clear="none">
--<br clear="none">
Brady Michael Jack, Ph.D.<br clear="none">
Postdoctoral Research Fellow<br clear="none">
Center for General Education<br clear="none">
National Sun Yat-sen University<br clear="none">
70 Lien Hai Road,<br clear="none">
Kaohsiung 804 Taiwan<br clear="none">
Phone: +886-7-525-2000<br clear="none">
Website: <a rel="nofollow" shape="rect" target="_blank" href="http://www.researchgate.net/profile/Brady_Jack/">http://www.researchgate.net/profile/Brady_Jack/</a><br clear="none">
________________________________________<br clear="none">
Rasch mailing list<br clear="none">
email: Rasch@acer.edu.au<br clear="none">
web:<br clear="none">
<a rel="nofollow" shape="rect" target="_blank" href="https://mailinglist.acer.edu.au/mailman/options/rasch/skramer1958%40verizon">https://mailinglist.acer.edu.au/mailman/options/rasch/skramer1958%40verizon</a>.<br clear="none">
net<br clear="none">
<br clear="none">
________________________________________<br clear="none">
Rasch mailing list<br clear="none">
email: Rasch@acer.edu.au<br clear="none">
web: </div><a rel="nofollow" shape="rect" target="_blank" href="https://mailinglist.acer.edu.au/mailman/options/rasch/fabiolaporta%40mail.com">https://mailinglist.acer.edu.au/mailman/options/rasch/fabiolaporta%40mail.com</a></div><div class="yiv0026682529yqt6306747920" id="yiv0026682529yqtfd58554">
</div></div><div class="yiv0026682529yqt6306747920" id="yiv0026682529yqtfd26189">
</div></div><div class="yiv0026682529yqt6306747920" id="yiv0026682529yqtfd81913">
</div></div></div></div></div><br><div class="yqt6306747920" id="yqtfd44003">________________________________________<br clear="none">Rasch mailing list<br clear="none">email: <a shape="rect" ymailto="mailto:Rasch@acer.edu.au" href="mailto:Rasch@acer.edu.au">Rasch@acer.edu.au</a><br clear="none">web: <a shape="rect" href="https://mailinglist.acer.edu.au/mailman/options/rasch/ici_kalt%40yahoo.com" target="_blank">https://mailinglist.acer.edu.au/mailman/options/rasch/ici_kalt%40yahoo.com</a></div><br><br></div>  </div> </div>  </div> </div></body></html>