<div bgcolor="#FFFFFF" text="#000000">Hi <br>if I can add my two cent...(of EURO)</div><div bgcolor="#FFFFFF" text="#000000"><br>At the ESRF for this kind of studies some work has been done.</div><div bgcolor="#FFFFFF" text="#000000">
<br>There is the module XAID  of the code XOP wrote by Manuel Sanchez del Rio<br><a href="http://www.esrf.eu/computing/scientific/xop2.1/documentation.html" target="_blank">http://www.esrf.eu/computing/scientific/xop2.1/documentation.html</a><br>
It is written in IDL from scratch.<br>It have normalization and linear combination fit features, it is fully graphically interfaced<br> and in terms of performances is quite impressive.<br>However, the program has a complicate structure that could difficult at the first approach <br>
(but Manuel is very kind, don't hesitate  to contact him  ).</div><div bgcolor="#FFFFFF" text="#000000"><br></div><div bgcolor="#FFFFFF" text="#000000">Otherwise  there is the code PrestoPronto. </div><div bgcolor="#FFFFFF" text="#000000">
<cite style="color:rgb(0,153,51);font-style:normal;display:inline-block;margin-bottom:1px;font-family:arial,sans-serif;line-height:15px;background-color:rgb(255,255,255)"><a href="http://code.google.com/p/">code.google.com/p/</a><b>prestopronto</b>/</cite><span class="std" style="font-family:arial,sans-serif;color:rgb(102,102,102);line-height:15px;background-color:rgb(255,255,255)"> </span> <br>
It is mainly a fully graphic python  wrapping of ifeffit for sequential analysis.<br>In terms of speed is very similar to Athena but it do automatically the  tricks of cleaning memory</div><div bgcolor="#FFFFFF" text="#000000">
But it is still a very young code......</div><div bgcolor="#FFFFFF" text="#000000">It still has not any interface to linear combination analysis.</div><div bgcolor="#FFFFFF" text="#000000">We never tested for more than 1000.. spectra</div>
<div bgcolor="#FFFFFF" text="#000000"><br></div><div bgcolor="#FFFFFF" text="#000000">Probably Mark Newton  could give you some more suggestions</div><div bgcolor="#FFFFFF" text="#000000">Regards</div><div bgcolor="#FFFFFF" text="#000000">
Lello</div><br class="Apple-interchange-newline"><br><div class="gmail_quote">On Sat, Mar 31, 2012 at 7:00 PM,  <span dir="ltr"><<a href="mailto:ifeffit-request@millenia.cars.aps.anl.gov">ifeffit-request@millenia.cars.aps.anl.gov</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Send Ifeffit mailing list submissions to<br>
        <a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a><br>
<br>
To subscribe or unsubscribe via the World Wide Web, visit<br>
        <a href="http://millenia.cars.aps.anl.gov/mailman/listinfo/ifeffit" target="_blank">http://millenia.cars.aps.anl.gov/mailman/listinfo/ifeffit</a><br>
or, via email, send a message with subject or body 'help' to<br>
        <a href="mailto:ifeffit-request@millenia.cars.aps.anl.gov">ifeffit-request@millenia.cars.aps.anl.gov</a><br>
<br>
You can reach the person managing the list at<br>
        <a href="mailto:ifeffit-owner@millenia.cars.aps.anl.gov">ifeffit-owner@millenia.cars.aps.anl.gov</a><br>
<br>
When replying, please edit your Subject line so it is more specific<br>
than "Re: Contents of Ifeffit digest..."<br>
<br>
<br>
Today's Topics:<br>
<br>
   1. Re: Ifeffit Digest, Vol 109, Issue 21 (KONG Quingyu)<br>
   2. Re: Ifeffit Digest, Vol 109, Issue 21 (Matt Newville)<br>
<br>
<br>
----------------------------------------------------------------------<br>
<br>
Message: 1<br>
Date: Fri, 30 Mar 2012 18:32:49 +0000<br>
From: KONG Quingyu <<a href="mailto:kong@synchrotron-soleil.fr">kong@synchrotron-soleil.fr</a>><br>
To: "<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>"<br>
        <<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>><br>
Subject: Re: [Ifeffit] Ifeffit Digest, Vol 109, Issue 21<br>
Message-ID:<br>
        <<a href="mailto:30F62EE734A9EA45A3F211513CB6200324BD1922@SUN-DAG1.synchrotron-soleil.fr">30F62EE734A9EA45A3F211513CB6200324BD1922@SUN-DAG1.synchrotron-soleil.fr</a>><br>
<br>
Content-Type: text/plain; charset="iso-8859-1"<br>
<br>
Thank you for all your helpful suggestions.<br>
<br>
Actually, our beamline has recently installed a fast detector with a repetation of 20KHz, which could collected data in a time resolution of few tens of microsecond and could easily produce a large amount of data. We have already accepted three users for microsecond time resolved studies, each of them collected millions of spectra.<br>

<br>
Together with the company that provide the detector and our software engineer we started to write a Python program to treat the data from November last year, however our engineer quitted recently, this make us to look for other solutions.<br>

<br>
If Demeter would works well for large amount of data treatment, it would be great. As I know ID24 at ESRF has also installed the same detector and would probably have similar demanding for such a program.<br>
<br>
Probably due to the limited memory of my pc, I can only open around 200 spectra simultanously with Athena.<br>
<br>
Best,<br>
Qingyu Kong<br>
<br>
<br>
Beamline ODE<br>
Soci?t? civile Synchrotron SOLEIL<br>
L'Orme des Merisiers<br>
Saint-Aubin - BP 48<br>
91192 GIF-sur-YVETTE CEDEX<br>
Tel: <a href="tel:%2B33%20%280%291%2069%2035%2097%2084" value="+33169359784">+33 (0)1 69 35 97 84</a> (office)<br>
      <a href="tel:%2B33%20%280%291%2069%2035%2097%2016" value="+33169359716">+33 (0)1 69 35 97 16</a> (beamline)<br>
email: <a href="mailto:kong@synchrotron-soleil.fr">kong@synchrotron-soleil.fr</a><br>
<br>
________________________________________<br>
From: <a href="mailto:ifeffit-bounces@millenia.cars.aps.anl.gov">ifeffit-bounces@millenia.cars.aps.anl.gov</a> [<a href="mailto:ifeffit-bounces@millenia.cars.aps.anl.gov">ifeffit-bounces@millenia.cars.aps.anl.gov</a>] on behalf of <a href="mailto:ifeffit-request@millenia.cars.aps.anl.gov">ifeffit-request@millenia.cars.aps.anl.gov</a> [<a href="mailto:ifeffit-request@millenia.cars.aps.anl.gov">ifeffit-request@millenia.cars.aps.anl.gov</a>]<br>

Sent: Friday, March 30, 2012 3:29 PM<br>
To: <a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a><br>
Subject: Ifeffit Digest, Vol 109, Issue 21<br>
<br>
Send Ifeffit mailing list submissions to<br>
        <a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a><br>
<br>
To subscribe or unsubscribe via the World Wide Web, visit<br>
        <a href="http://millenia.cars.aps.anl.gov/mailman/listinfo/ifeffit" target="_blank">http://millenia.cars.aps.anl.gov/mailman/listinfo/ifeffit</a><br>
or, via email, send a message with subject or body 'help' to<br>
        <a href="mailto:ifeffit-request@millenia.cars.aps.anl.gov">ifeffit-request@millenia.cars.aps.anl.gov</a><br>
<br>
You can reach the person managing the list at<br>
        <a href="mailto:ifeffit-owner@millenia.cars.aps.anl.gov">ifeffit-owner@millenia.cars.aps.anl.gov</a><br>
<br>
When replying, please edit your Subject line so it is more specific<br>
than "Re: Contents of Ifeffit digest..."<br>
<br>
<br>
Today's Topics:<br>
<br>
   1. delr and ss parameterization (Ebrahim Rezaei)<br>
   2. program (KONG Quingyu)<br>
   3. Re: program (Carlo Segre)<br>
   4. Re: program (Matt Newville)<br>
   5. Re: delr and ss parameterization (Bruce Ravel)<br>
   6. Re: program (Bruce Ravel)<br>
<br>
<br>
----------------------------------------------------------------------<br>
<br>
Message: 1<br>
Date: Thu, 29 Mar 2012 21:57:21 -0700 (PDT)<br>
From: Ebrahim Rezaei <<a href="mailto:e_rezaei24@yahoo.com">e_rezaei24@yahoo.com</a>><br>
To: <a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a><br>
Subject: [Ifeffit] delr and ss parameterization<br>
Message-ID:<br>
        <<a href="mailto:1333083441.66190.YahooMailClassic@web120501.mail.ne1.yahoo.com">1333083441.66190.YahooMailClassic@web120501.mail.ne1.yahoo.com</a>><br>
Content-Type: text/plain; charset="utf-8"<br>
<br>
Hi everyone,<br>
<br>
<br>
I am working with bulk and nano structures of MnO, MnO2<br>
and Mn2O3. I have two questions regarding how to<br>
parameterize delr and ss in Artemis.<br>
<br>
<br>
It is recommended to<br>
use either delr=alfa*Reff or relate it to unit cell structure. Can anybody tell<br>
me how to do the second approach?<br>
<br>
<br>
Also is that a good idea to let all ss to float? Or it should<br>
be constrained based on type and distance of atoms? I have seen an example<br>
about ZnO just letting the first two shell?s ss to float and let the rest to be<br>
the same. I would appreciate it very much if anybody could help me with this too.<br>
<br>
<br>
Regards,<br>
<br>
<br>
Ebrahim Rezaei<br>
<br>
PhD Candidate, Chem. Eng. Dep., University of Saskatchewan<br>
<br>
Saskatoon, SK, Canada<br>
-------------- next part --------------<br>
An HTML attachment was scrubbed...<br>
URL: <<a href="http://millenia.cars.aps.anl.gov/pipermail/ifeffit/attachments/20120329/e13d64a5/attachment-0001.htm" target="_blank">http://millenia.cars.aps.anl.gov/pipermail/ifeffit/attachments/20120329/e13d64a5/attachment-0001.htm</a>><br>

<br>
------------------------------<br>
<br>
Message: 2<br>
Date: Fri, 30 Mar 2012 06:46:38 +0000<br>
From: KONG Quingyu <<a href="mailto:kong@synchrotron-soleil.fr">kong@synchrotron-soleil.fr</a>><br>
To: "<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>"<br>
        <<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>><br>
Subject: [Ifeffit] program<br>
Message-ID:<br>
        <<a href="mailto:30F62EE734A9EA45A3F211513CB6200324BD1794@SUN-DAG1.synchrotron-soleil.fr">30F62EE734A9EA45A3F211513CB6200324BD1794@SUN-DAG1.synchrotron-soleil.fr</a>><br>
<br>
Content-Type: text/plain; charset="iso-8859-1"<br>
<br>
We recently collected 3000 EXAFS spectra to follow a chemical reaction process, we would like to fit the experimental data with reference spectra using linear combination fitting. Does anyone know there are available or commercial program to normalize the data and make linear combination fitting. We tried to do it with Athena manually, but 3000 spectra take a long time for us and it is not a practical way.<br>

<br>
Thanks a lot.<br>
<br>
Qingyu Kong<br>
<br>
Beamline ODE<br>
Soci?t? civile Synchrotron SOLEIL<br>
L'Orme des Merisiers<br>
Saint-Aubin - BP 48<br>
91192 GIF-sur-YVETTE CEDEX<br>
Tel: <a href="tel:%2B33%20%280%291%2069%2035%2097%2084" value="+33169359784">+33 (0)1 69 35 97 84</a> (office)<br>
      <a href="tel:%2B33%20%280%291%2069%2035%2097%2016" value="+33169359716">+33 (0)1 69 35 97 16</a> (beamline)<br>
email: <a href="mailto:kong@synchrotron-soleil.fr">kong@synchrotron-soleil.fr</a><br>
<br>
<br>
<br>
<br>
<br>
------------------------------<br>
<br>
Message: 3<br>
Date: Fri, 30 Mar 2012 01:56:57 -0500 (CDT)<br>
From: Carlo Segre <<a href="mailto:segre@iit.edu">segre@iit.edu</a>><br>
To: XAFS Analysis using Ifeffit <<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>><br>
Subject: Re: [Ifeffit] program<br>
Message-ID: <<a href="mailto:alpine.DEB.2.02.1203300154590.5339@hydride.phys.iit.edu">alpine.DEB.2.02.1203300154590.5339@hydride.phys.iit.edu</a>><br>
Content-Type: TEXT/PLAIN; charset=US-ASCII; format=flowed<br>
<br>
<br>
Hi Qingyu<br>
<br>
On Fri, 30 Mar 2012, KONG Quingyu wrote:<br>
<br>
> We recently collected 3000 EXAFS spectra to follow a chemical reaction<br>
> process, we would like to fit the experimental data with reference<br>
> spectra using linear combination fitting. Does anyone know there are<br>
> available or commercial program to normalize the data and make linear<br>
> combination fitting. We tried to do it with Athena manually, but 3000<br>
> spectra take a long time for us and it is not a practical way.<br>
<br>
You might wish to look into Bruce Ravel's new suite of programs (called<br>
Demeter).  I believe they are built to allow easy scripting of massive<br>
quantities of data such as yours.<br>
<br>
Carlo<br>
<br>
<br>
--<br>
Carlo U. Segre -- Duchossois Leadership Professor of Physics<br>
Associate Dean for Graduate Admissions, Graduate College<br>
Illinois Institute of Technology<br>
Voice: <a href="tel:312.567.3498" value="+13125673498">312.567.3498</a>            Fax: <a href="tel:312.567.3494" value="+13125673494">312.567.3494</a><br>
<a href="mailto:segre@iit.edu">segre@iit.edu</a>   <a href="http://phys.iit.edu/~segre" target="_blank">http://phys.iit.edu/~segre</a>   <a href="mailto:segre@debian.org">segre@debian.org</a><br>
<br>
<br>
------------------------------<br>
<br>
Message: 4<br>
Date: Fri, 30 Mar 2012 07:56:05 -0500<br>
From: Matt Newville <<a href="mailto:newville@cars.uchicago.edu">newville@cars.uchicago.edu</a>><br>
To: XAFS Analysis using Ifeffit <<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>><br>
Subject: Re: [Ifeffit] program<br>
Message-ID:<br>
        <<a href="mailto:CA%2B7ESbrjp46_kPw9F803MQOGdMRtFbDa-7oGem25%2BCL2bYznJg@mail.gmail.com">CA+7ESbrjp46_kPw9F803MQOGdMRtFbDa-7oGem25+CL2bYznJg@mail.gmail.com</a>><br>
Content-Type: text/plain; charset=ISO-8859-1<br>
<br>
Hi Qingyu,<br>
<br>
On Fri, Mar 30, 2012 at 1:46 AM, KONG Quingyu<br>
<<a href="mailto:kong@synchrotron-soleil.fr">kong@synchrotron-soleil.fr</a>> wrote:<br>
> We recently collected 3000 EXAFS spectra to follow a chemical reaction process, we would like to fit the experimental data with reference spectra using linear combination fitting. Does anyone know there are available or commercial program to normalize the data and make linear combination fitting. We tried to do it with Athena manually, but 3000 spectra take a long time for us and it is not a practical way.<br>

<br>
Ifeffit is designed to be scriptable for batch processing.   This can<br>
be done with a raw Ifeffit script (which isn't very flexible) or from<br>
Perl or Python, which are more flexible.   Carlo mentioned Demeter,<br>
which is a high-level Perl wrapping of the lower-level functionality.<br>
   Working with 3000 spectra may be challenging with Ifeffit version<br>
1.2, as the total amount of available memory is limited, but with some<br>
care it should be possible.<br>
<br>
FWIW, the next version of Ifeffit will eliminate this memory<br>
limitation, and make both scripting and extending the functionality<br>
much easier and better.  This is still a work in progress (see<br>
<a href="https://github.com/xraypy/xraylarch" target="_blank">https://github.com/xraypy/xraylarch</a>) and poorly documented, but the<br>
essential idea is to write all of Ifeffit's functionality in Python,<br>
for all the reasons just stated, and this far enough along that I am<br>
confident it will be a big improvement.   So far (for XAFS), this can<br>
read data, do simple pre-edge subtraction, normalization, remove<br>
backgrounds ala autobk, and do XAFS Fourier transforms.   It can do<br>
simple "general purpose fitting", but does not yet expose a<br>
simple-to-use linear combination fitting functionality (shouldn't be<br>
too hard, as all the linear algebra pieces are readily available) or<br>
fitting spectra to Feff calculations (a bit more involved).   Work is<br>
slow (mostly due to other obligations),  but progress is being made,<br>
and it's close to ready for an initial release.   If you are (or<br>
anyone else is) interested in trying this or helping out, let me know.<br>
<br>
--Matt<br>
<br>
<br>
<br>
------------------------------<br>
<br>
Message: 5<br>
Date: Fri, 30 Mar 2012 09:13:11 -0400<br>
From: Bruce Ravel <<a href="mailto:bravel@bnl.gov">bravel@bnl.gov</a>><br>
To: XAFS Analysis using Ifeffit <<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>><br>
Subject: Re: [Ifeffit] delr and ss parameterization<br>
Message-ID: <<a href="mailto:201203300913.12166.bravel@bnl.gov">201203300913.12166.bravel@bnl.gov</a>><br>
Content-Type: Text/Plain;  charset="utf-8"<br>
<br>
On Friday, March 30, 2012 12:57:21 am Ebrahim Rezaei wrote:<br>
> I am working with bulk and nano structures of MnO, MnO2<br>
> and Mn2O3. I have two questions regarding how to<br>
> parameterize delr and ss in Artemis.<br>
><br>
><br>
> It is recommended to<br>
> use either delr=alfa*Reff or relate it to unit cell structure. Can anybody<br>
> tell me how to do the second approach?<br>
><br>
><br>
> Also is that a good idea to let all ss to float? Or it should<br>
> be constrained based on type and distance of atoms? I have seen an example<br>
> about ZnO just letting the first two shell?s ss to float and let the rest<br>
> to be the same. I would appreciate it very much if anybody could help me<br>
> with this too.<br>
<br>
The alpha*reff trick is only strictly valid for cubic, monoatomic<br>
materials.  For everything else in the world, it is an increasingly<br>
poor approximation.  That's not to say it is not a helpful<br>
parameterization, just that you need to be mindful of its limitations.<br>
<br>
As for the sigma^2 parameter, you have to balance when is physically<br>
reasonable with what can be reliably extracted from a real data<br>
analysis.<br>
<br>
  - Two atoms of a different species at the same distance should have<br>
    different sigma^2 because they have different masses.<br>
<br>
  - Two atoms of the same species at different distances should have<br>
    different sigma^2 because sigma^2 is a mean square deviation in<br>
    distance.<br>
<br>
So, in some sense, all scatterers might have their own sigma^2<br>
parameters.  But that is not to say that you data are sufficient to<br>
independently determine that many parameters.  When you run up against<br>
the limited information content of your data, that is when you start<br>
making approximations of the sort that lead to setting sigma^2<br>
parameters for different scatterers to be the same.<br>
<br>
However, there are sensible and physically justifiable reasons why the<br>
sigma^2 for certain multiple scattering paths should be related to<br>
those of single scattering paths.  See<br>
<a href="http://dx.doi.org/10.1103/PhysRevB.54.156" target="_blank">http://dx.doi.org/10.1103/PhysRevB.54.156</a><br>
<br>
Two of my favorite papers that show excellent data analysis solving<br>
real-world problems and which are written in a way that is of<br>
pedagogical value for XAS beginners are Scott Calvin's paper on doped<br>
ferrites (<a href="http://dx.doi.org/10.1103/PhysRevB.66.224405" target="_blank">http://dx.doi.org/10.1103/PhysRevB.66.224405</a>) and Shelly<br>
Kelly's paper on uranyl binding to biomass<br>
(<a href="http://dx.doi.org/10.1016/S0016-7037(02)00947-X" target="_blank">http://dx.doi.org/10.1016/S0016-7037(02)00947-X</a>).  For more<br>
interesting papers, look through the archives of the mailing list and<br>
see who gives good answers to questions, then look up their papers.<br>
<br>
Another extremely useful resource which includes extensive discussion<br>
of the sorts of things you are asking about is Shelly's review<br>
chapter.  Here's the amazon link to that book:<br>
<a href="http://www.amazon.com/Methods-Soil-Analysis-Part-Mineralogical/dp/0891188460/" target="_blank">http://www.amazon.com/Methods-Soil-Analysis-Part-Mineralogical/dp/0891188460/</a><br>
The book is a bit pricy, but if you are a clever googler, you may find<br>
a PDF copy of her chapter.<br>
<br>
Regards,<br>
B<br>
<br>
<br>
--<br>
<br>
 Bruce Ravel  ------------------------------------ <a href="mailto:bravel@bnl.gov">bravel@bnl.gov</a><br>
<br>
 National Institute of Standards and Technology<br>
 Synchrotron Methods Group at NSLS --- Beamlines U7A, X24A, X23A2<br>
 Building 535A<br>
 Upton NY, 11973<br>
<br>
 My homepage:    <a href="http://xafs.org/BruceRavel" target="_blank">http://xafs.org/BruceRavel</a><br>
 EXAFS software: <a href="http://cars9.uchicago.edu/ifeffit/Demeter" target="_blank">http://cars9.uchicago.edu/ifeffit/Demeter</a><br>
<br>
<br>
<br>
------------------------------<br>
<br>
Message: 6<br>
Date: Fri, 30 Mar 2012 09:29:10 -0400<br>
From: Bruce Ravel <<a href="mailto:bravel@bnl.gov">bravel@bnl.gov</a>><br>
To: XAFS Analysis using Ifeffit <<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>><br>
Subject: Re: [Ifeffit] program<br>
Message-ID: <<a href="mailto:201203300929.11143.bravel@bnl.gov">201203300929.11143.bravel@bnl.gov</a>><br>
Content-Type: Text/Plain;  charset="iso-8859-1"<br>
<br>
On Friday, March 30, 2012 02:46:38 am KONG Quingyu wrote:<br>
> We recently collected 3000 EXAFS spectra to follow a chemical reaction<br>
> process, we would like to fit the experimental data with reference spectra<br>
> using linear combination fitting. Does anyone know there are available or<br>
> commercial program to normalize the data and make linear combination<br>
> fitting. We tried to do it with Athena manually, but 3000 spectra take a<br>
> long time for us and it is not a practical way.<br>
<br>
Hi Qingyu,<br>
<br>
Carlo is correct, Demeter could be used to write a special purpose<br>
program for automating this sort of thing.  The performance in terms<br>
of speed may not be exactly what you want, but the performance in<br>
terms of quickly prototyping a program to process and analyze a large<br>
data volume is excellent.<br>
<br>
The Demeter code base comes with extensive (although still incomplete)<br>
documentation as well as plenty of example scripts, including<br>
examples for the individual chores you mention above.<br>
<br>
Here's Demeter's documentation: <a href="http://bruceravel.github.com/demeter/" target="_blank">http://bruceravel.github.com/demeter/</a><br>
<br>
<br>
As a closing comment, isn't it somehow strange that you and your<br>
colleagues went to all the trouble of building a fancy dispersive<br>
beamline without thinking ahead about how you were going to analyze<br>
your data?<br>
<br>
B<br>
<br>
<br>
--<br>
<br>
 Bruce Ravel  ------------------------------------ <a href="mailto:bravel@bnl.gov">bravel@bnl.gov</a><br>
<br>
 National Institute of Standards and Technology<br>
 Synchrotron Methods Group at NSLS --- Beamlines U7A, X24A, X23A2<br>
 Building 535A<br>
 Upton NY, 11973<br>
<br>
 My homepage:    <a href="http://xafs.org/BruceRavel" target="_blank">http://xafs.org/BruceRavel</a><br>
 EXAFS software: <a href="http://cars9.uchicago.edu/ifeffit/Demeter" target="_blank">http://cars9.uchicago.edu/ifeffit/Demeter</a><br>
<br>
<br>
------------------------------<br>
<br>
_______________________________________________<br>
Ifeffit mailing list<br>
<a href="mailto:Ifeffit@millenia.cars.aps.anl.gov">Ifeffit@millenia.cars.aps.anl.gov</a><br>
<a href="http://millenia.cars.aps.anl.gov/mailman/listinfo/ifeffit" target="_blank">http://millenia.cars.aps.anl.gov/mailman/listinfo/ifeffit</a><br>
<br>
<br>
End of Ifeffit Digest, Vol 109, Issue 21<br>
****************************************<br>
<br>
<br>
<br>
------------------------------<br>
<br>
Message: 2<br>
Date: Fri, 30 Mar 2012 16:36:58 -0500<br>
From: Matt Newville <<a href="mailto:newville@cars.uchicago.edu">newville@cars.uchicago.edu</a>><br>
To: XAFS Analysis using Ifeffit <<a href="mailto:ifeffit@millenia.cars.aps.anl.gov">ifeffit@millenia.cars.aps.anl.gov</a>><br>
Subject: Re: [Ifeffit] Ifeffit Digest, Vol 109, Issue 21<br>
Message-ID:<br>
        <<a href="mailto:CA%2B7ESbrZir3zMWAKSx5HPpqjJ5H_qC-V0YAsnCXUzDO512q%2BaA@mail.gmail.com">CA+7ESbrZir3zMWAKSx5HPpqjJ5H_qC-V0YAsnCXUzDO512q+aA@mail.gmail.com</a>><br>
Content-Type: text/plain; charset=ISO-8859-1<br>
<br>
Hi Qingyu,<br>
<br>
On Fri, Mar 30, 2012 at 1:32 PM, KONG Quingyu<br>
<<a href="mailto:kong@synchrotron-soleil.fr">kong@synchrotron-soleil.fr</a>> wrote:<br>
> Thank you for all your helpful suggestions.<br>
><br>
> Actually, our beamline has recently installed a fast detector with a<br>
> repetation of 20KHz, which could collected data in a time resolution<br>
> of few tens of microsecond and could easily produce a large amount<br>
> of data. We have already accepted three users for microsecond time<br>
> resolved studies, each of them collected millions of spectra.<br>
><br>
> Together with the company that provide the detector and our software<br>
> engineer we started to write a Python program to treat the data from<br>
> November last year, however our engineer quitted recently, this make<br>
> us to look for other solutions.<br>
<br>
Bruce wrote earlier,<br>
<br>
   As a closing comment, isn't it somehow strange that you and your<br>
   colleagues went to all the trouble of building a fancy dispersive<br>
   beamline without thinking ahead about how you were going to analyze<br>
   your data?<br>
<br>
Sadly, Bruce's observation is not unusual at all.  Everyone is<br>
experiencing data overloads, and almost no one is investing in<br>
computing resources.  Yours may be slightly larger than most XAFS<br>
users, but only by one or two orders of magnitude.  Then again, you<br>
had a software engineer at your beamline at least for a while.<br>
<br>
To be clear, Ifeffit, Athena, Demeter, Sixpack, and so on are written<br>
primarily by beamline scientists like yourself.  Your choices are to<br>
use what someone else gives you, write your own, or hire someone to do<br>
it for you. It appears that the last choice rarely works very well.<br>
That you get to use Bruce's codes at all (and for free!) is not an<br>
accident: it is part of the design, and an outcome of the programs<br>
being written by beamline scientists.<br>
<br>
The current software base is more than ten years old, and showing its<br>
age especially with respect to large data sets and multiple<br>
processors.    This is a really good opportunity for you and your<br>
colleagues (and others in similar situations) to join in.  That is,<br>
you should write code to deal with your fast data rates.  If you write<br>
that with the Ifeffit family of programs, not only will people at ESRF<br>
be able to use it, but so will anyone else.<br>
<br>
> If Demeter would works well for large amount of data treatment, it<br>
> would be great. As I know ID24 at ESRF has also installed the same<br>
> detector and would probably have similar demanding for such a program.<br>
<br>
Looking into Demeter is one option, though I don't know exactly that<br>
is perfect for the linear combination analysis you want to use.  Most<br>
of the core algorithms in Demeter still use Ifeffit 1.2, which are<br>
going to be limited for your needs, though they can be worked around<br>
if careful.   Transferring Demeter to use the newer Ifeffit2 should be<br>
possible, but neither Bruce or I have done more than<br>
proof-of-principle tests.     Looking into using Larch / IFeffit2<br>
might be better for you, and I'd be happy to help you do that.  For<br>
one thing, this approach has no memory limitations beyond your<br>
machine, is in Python and can read HDF5 files (which SOLEIL uses, as<br>
far as I understand) directly.   It also has the possibility of using<br>
multicore machines well, but this has not yet been automated.   It is<br>
also possible that the linear algebra techniques used for x-ray<br>
fluorescence map analysis, including code from Gerd Wellenreuther and<br>
Armando Sole would be useful for your needs.<br>
<br>
> Probably due to the limited memory of my pc, I can only open around<br>
> 200 spectra simultanously with Athena.<br>
<br>
You almost certainly want to not use Athena here anyway.   You want<br>
automated processing programs.<br>
<br>
Like Bruce hinted at, you've invested heavily in a detector that<br>
allows you to collect data at a rate orders of magnitude faster than<br>
you could before.  It would have been incredibly naive to believe that<br>
decade-old software would have been able to keep up with that.   This<br>
is a good opportunity for you to help out yourself and others.<br>
<br>
Cheers,<br>
<br>
--Matt<br>
<br>
<br>
------------------------------<br>
<br>
_______________________________________________<br>
Ifeffit mailing list<br>
<a href="mailto:Ifeffit@millenia.cars.aps.anl.gov">Ifeffit@millenia.cars.aps.anl.gov</a><br>
<a href="http://millenia.cars.aps.anl.gov/mailman/listinfo/ifeffit" target="_blank">http://millenia.cars.aps.anl.gov/mailman/listinfo/ifeffit</a><br>
<br>
<br>
End of Ifeffit Digest, Vol 109, Issue 23<br>
****************************************<br>
</blockquote></div><br><br clear="all"><div><br></div>-- <br>Carmelo Prestipino<br>Sciences Chimiques de Rennes UMR 6226<br>Solid State and Materials Chemistry group (CSM)<br>Campus de Beaulieu, Bāt 10B, bureau 122<br>F-35042 RENNES<br>
France<br>Tel: (+33) 22323 6531<br>FAX: (+33) 22323 5959<br>