]> git.sur5r.net Git - i3/i3.github.io/blob - docs/testsuite.html
update docs for 4.13
[i3/i3.github.io] / docs / testsuite.html
1 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.1//EN"\r
2     "http://www.w3.org/TR/xhtml11/DTD/xhtml11.dtd">\r
3 <html xmlns="http://www.w3.org/1999/xhtml" xml:lang="en">\r
4 <head>\r
5 <link rel="icon" type="image/x-icon" href="/favicon.ico">\r
6 <meta http-equiv="Content-Type" content="application/xhtml+xml; charset=UTF-8" />\r
7 <meta name="generator" content="AsciiDoc 8.6.9" />\r
8 <title>i3: i3 testsuite</title>\r
9 <link rel="stylesheet" href="/css/style.css" type="text/css" />\r
10 <link rel="stylesheet" href="/css/xhtml11.css" type="text/css" />\r
11 <script type="text/javascript">\r
12 /*<![CDATA[*/\r
13 document.addEventListener("DOMContentLoaded", function(){asciidoc.footnotes(); asciidoc.toc(2);}, false);\r
14 /*]]>*/\r
15 </script>\r
16 <script type="text/javascript" src="/js/asciidoc-xhtml11.js"></script>\r
17 </head>\r
18 <body class="article">\r
19 \r
20         <div id="main">\r
21             <a href="/"><h1 id="title">i3 - improved tiling WM</h1></a>\r
22                         <ul id="nav">\r
23                                 <li><a style="border-bottom: 2px solid #fff" href="/docs">Docs</a></li>\r
24                                 <li><a href="/screenshots">Screens</a></li>\r
25                                 <li><a href="https://www.reddit.com/r/i3wm/">FAQ</a></li>\r
26                                 <li><a href="/contact">Contact</a></li>\r
27                                 <li><a href="https://github.com/i3/i3/issues">Bugs</a></li>\r
28                         </ul>\r
29         <br style="clear: both">\r
30 <div id="content">\r
31 <div id="header">\r
32 <h1>i3 testsuite</h1>\r
33 <span id="author">Michael Stapelberg</span><br />\r
34 <span id="email"><tt>&lt;<a href="mailto:michael@i3wm.org">michael@i3wm.org</a>&gt;</tt></span><br />\r
35 <span id="revdate">September 2012</span>\r
36 <div id="toc">
37   <div id="toctitle">Table of Contents</div>
38   <noscript><p><b>JavaScript must be enabled in your browser to display the table of contents.</b></p></noscript>
39 </div>\r
40 </div>\r
41 <div id="preamble">\r
42 <div class="sectionbody">\r
43 <div class="paragraph"><p>This document explains how the i3 testsuite works, how to use it and extend it.\r
44 It is targeted at developers who not necessarily have been doing testing before\r
45 or have not been testing in Perl before. In general, the testsuite is not of\r
46 interest for end users.</p></div>\r
47 </div>\r
48 </div>\r
49 <div class="sect1">\r
50 <h2 id="_introduction">1. Introduction</h2>\r
51 <div class="sectionbody">\r
52 <div class="paragraph"><p>The i3 testsuite is a collection of files which contain testcases for various\r
53 i3 features. Some of them test if a certain workflow works correctly (moving\r
54 windows, focus behaviour, …). Others are regression tests and contain code\r
55 which previously made i3 crash or lead to unexpected behaviour. They then check\r
56 if i3 still runs (meaning it did not crash) and if it handled everything\r
57 correctly.</p></div>\r
58 <div class="paragraph"><p>The goal of having these tests is to automatically find problems and to\r
59 automatically get a feel for whether a change in the source code breaks any\r
60 existing feature. After every modification of the i3 sourcecode, the developer\r
61 should run the full testsuite. If one of the tests fails, the corresponding\r
62 problem should be fixed (or, in some cases, the testcase has to be modified).\r
63 For every bugreport, a testcase should be written to test the correct\r
64 behaviour. Initially, it will fail, but after fixing the bug, it will pass.\r
65 This ensures (or increases the chance) that bugs which have been fixed once\r
66 will never be found again.</p></div>\r
67 <div class="paragraph"><p>Also, when implementing a new feature, a testcase might be a good way to be\r
68 able to easily test if the feature is working correctly. Many developers will\r
69 test manually if everything works. Having a testcase not only helps you with\r
70 that, but it will also be useful for every future change.</p></div>\r
71 </div>\r
72 </div>\r
73 <div class="sect1">\r
74 <h2 id="_relevant_documentation">2. Relevant documentation</h2>\r
75 <div class="sectionbody">\r
76 <div class="paragraph"><p>Apart from this document, you should also have a look at:</p></div>\r
77 <div class="olist arabic"><ol class="arabic">\r
78 <li>\r
79 <p>\r
80 The "Modern Perl" book, which can be found at\r
81    <a href="http://onyxneon.com/books/modern_perl/modern_perl_a4.pdf">http://onyxneon.com/books/modern_perl/modern_perl_a4.pdf</a>\r
82 </p>\r
83 </li>\r
84 <li>\r
85 <p>\r
86 The latest Perl documentation of the "i3test" (general testcase setup) and\r
87    "i3test::Test" (additional test instructions) modules:\r
88    <a href="http://build.i3wm.org/docs/lib-i3test.html">http://build.i3wm.org/docs/lib-i3test.html</a> respectively\r
89    <a href="http://build.i3wm.org/docs/lib-i3test-test.html">http://build.i3wm.org/docs/lib-i3test-test.html</a>\r
90 </p>\r
91 </li>\r
92 <li>\r
93 <p>\r
94 The latest documentation on i3’s IPC interface:\r
95    <a href="http://build.i3wm.org/docs/ipc.html">http://build.i3wm.org/docs/ipc.html</a>\r
96 </p>\r
97 </li>\r
98 </ol></div>\r
99 </div>\r
100 </div>\r
101 <div class="sect1">\r
102 <h2 id="_implementation">3. Implementation</h2>\r
103 <div class="sectionbody">\r
104 <div class="paragraph"><p>For several reasons, the i3 testsuite has been implemented in Perl:</p></div>\r
105 <div class="olist arabic"><ol class="arabic">\r
106 <li>\r
107 <p>\r
108 Perl has a long tradition of testing. Every popular/bigger Perl module which\r
109    you can find on CPAN will not only come with documentation, but also with\r
110    tests. Therefore, the available infrastructure for tests is comprehensive.\r
111    See for example the excellent <a href="http://search.cpan.org/perldoc?Test::More">http://search.cpan.org/perldoc?Test::More</a>\r
112    and the referenced <a href="http://search.cpan.org/perldoc?Test::Tutorial">http://search.cpan.org/perldoc?Test::Tutorial</a>.\r
113 </p>\r
114 </li>\r
115 <li>\r
116 <p>\r
117 Perl is widely available and has a well-working package infrastructure.\r
118 </p>\r
119 </li>\r
120 <li>\r
121 <p>\r
122 The author is familiar with Perl :).\r
123 </p>\r
124 </li>\r
125 <li>\r
126 <p>\r
127 It is a good idea to use a different language for the tests than the\r
128    implementation itself.\r
129 </p>\r
130 </li>\r
131 </ol></div>\r
132 <div class="paragraph"><p>Please do not start programming language flamewars at this point.</p></div>\r
133 <div class="sect2">\r
134 <h3 id="_installing_the_dependencies">3.1. Installing the dependencies</h3>\r
135 <div class="paragraph"><p>As usual with Perl programs, the testsuite ships with a <tt>Makefile.PL</tt>.\r
136 This file specifies which Perl modules the testsuite depends on and can be used\r
137 to install all of them.</p></div>\r
138 <div class="paragraph"><p>Perl modules are distributed via CPAN, and there is the official, standard CPAN\r
139 client, simply called <tt>cpan</tt>. It comes with every Perl installation and can be\r
140 used to install the testsuite. Many users prefer to use the more modern\r
141 <tt>cpanminus</tt> instead, though (because it asks no questions and just works):</p></div>\r
142 <div class="paragraph"><p>The tests additionally require <tt>Xephyr(1)</tt> to run a nested X server. Install\r
143 <tt>xserver-xephyr</tt> on Debian or <tt>xorg-xserver-xephyr</tt> on Arch Linux.</p></div>\r
144 <div class="listingblock">\r
145 <div class="title">Installing testsuite dependencies using cpanminus (preferred)</div>\r
146 <div class="content">\r
147 <pre><tt>$ cd ~/i3/testcases\r
148 $ sudo apt-get install cpanminus\r
149 $ sudo cpanm .</tt></pre>\r
150 </div></div>\r
151 <div class="paragraph"><p>If you don’t want to use cpanminus for some reason, the same works with cpan:</p></div>\r
152 <div class="listingblock">\r
153 <div class="title">Installing testsuite dependencies using cpan</div>\r
154 <div class="content">\r
155 <pre><tt>$ cd ~/i3/testcases\r
156 $ sudo cpan .</tt></pre>\r
157 </div></div>\r
158 <div class="paragraph"><p>In case you don’t have root permissions, you can also install into your home\r
159 directory, see <a href="http://michael.stapelberg.de/cpan/">http://michael.stapelberg.de/cpan/</a></p></div>\r
160 </div>\r
161 <div class="sect2">\r
162 <h3 id="_mechanisms">3.2. Mechanisms</h3>\r
163 <div class="sect3">\r
164 <h4 id="_script_complete_run">3.2.1. Script: complete-run</h4>\r
165 <div class="paragraph"><p>The testcases are run by a script called <tt>complete-run.pl</tt>. It runs all\r
166 testcases by default, but you can be more specific and let it only run one or\r
167 more testcases. Also, it takes care of starting up a separate instance of i3\r
168 with an appropriate configuration file and creates a folder for each run\r
169 containing the appropriate i3 logfile for each testcase. The latest folder can\r
170 always be found under the symlink <tt>latest/</tt>. Unless told differently, it will\r
171 run the tests on a separate X server instance (using Xephyr).</p></div>\r
172 <div class="paragraph"><p>Xephyr will open a window where you can inspect the running test. You can run\r
173 the tests without an X session with Xvfb, such as with <tt>xvfb-run\r
174 ./complete-run</tt>. This will also speed up the tests significantly especially on\r
175 machines without a powerful video card.</p></div>\r
176 <div class="listingblock">\r
177 <div class="title">Example invocation of complete-run.pl+</div>\r
178 <div class="content">\r
179 <pre><tt>$ cd ~/i3/testcases\r
180 \r
181 $ ./complete-run.pl\r
182 # output omitted because it is very long\r
183 All tests successful.\r
184 Files=78, Tests=734, 27 wallclock secs ( 0.38 usr  0.48 sys + 17.65 cusr  3.21 csys = 21.72 CPU)\r
185 Result: PASS\r
186 \r
187 $ ./complete-run.pl t/04-floating.t\r
188 [:3] i3 startup: took 0.07s, status = 1\r
189 [:3] Running t/04-floating.t with logfile testsuite-2011-09-24-16-06-04-4.0.2-226-g1eb011a/i3-log-for-04-floating.t\r
190 [:3] t/04-floating.t finished\r
191 [:3] killing i3\r
192 output for t/04-floating.t:\r
193 ok 1 - use X11::XCB::Window;\r
194 ok 2 - The object isa X11::XCB::Window\r
195 ok 3 - Window is mapped\r
196 ok 4 - i3 raised the width to 75\r
197 ok 5 - i3 raised the height to 50\r
198 ok 6 - i3 did not map it to (0x0)\r
199 ok 7 - The object isa X11::XCB::Window\r
200 ok 8 - i3 let the width at 80\r
201 ok 9 - i3 let the height at 90\r
202 ok 10 - i3 mapped it to x=1\r
203 ok 11 - i3 mapped it to y=18\r
204 ok 12 - The object isa X11::XCB::Window\r
205 ok 13 - i3 let the width at 80\r
206 ok 14 - i3 let the height at 90\r
207 1..14\r
208 \r
209 All tests successful.\r
210 Files=1, Tests=14,  0 wallclock secs ( 0.01 usr  0.00 sys +  0.19 cusr  0.03 csys =  0.23 CPU)\r
211 Result: PASS\r
212 \r
213 $ less latest/i3-log-for-04-floating.t</tt></pre>\r
214 </div></div>\r
215 <div class="paragraph"><p>If your attempt to run the tests with a bare call to ./complete-run.pl fails, try this:</p></div>\r
216 <div class="listingblock">\r
217 <div class="content">\r
218 <pre><tt>$ ./complete-run.pl --parallel=1 --keep-xserver-output</tt></pre>\r
219 </div></div>\r
220 <div class="paragraph"><p>This will show the output of Xephyr, which is the X server implementation we\r
221 use for testing.</p></div>\r
222 </div>\r
223 <div class="sect3">\r
224 <h4 id="_coverage_testing">3.2.2. Coverage testing</h4>\r
225 <div class="paragraph"><p>Coverage testing is possible with <tt>lcov</tt>, the front-end for GCC&#8217;s coverage\r
226 testing tool <tt>gcov</tt>. The testcases can generate a nice html report that tells\r
227 you which functions and lines were covered during a run of the tests. You can\r
228 use this tool to judge how effective your tests are.</p></div>\r
229 <div class="paragraph"><p>To use test coverage tools, first compile with coverage enabled.</p></div>\r
230 <div class="listingblock">\r
231 <div class="content">\r
232 <pre><tt>COVERAGE=1 make</tt></pre>\r
233 </div></div>\r
234 <div class="paragraph"><p>Then run the tests with the <tt>--coverage-testing</tt> flag.</p></div>\r
235 <div class="listingblock">\r
236 <div class="content">\r
237 <pre><tt>./complete-run.pl --coverage-testing</tt></pre>\r
238 </div></div>\r
239 <div class="paragraph"><p>Then open <tt>latest/i3-coverage/index.html</tt> in your web browser.</p></div>\r
240 </div>\r
241 <div class="sect3">\r
242 <h4 id="_ipc_interface">3.2.3. IPC interface</h4>\r
243 <div class="paragraph"><p>The testsuite makes extensive use of the IPC (Inter-Process Communication)\r
244 interface which i3 provides. It is used for the startup process of i3, for\r
245 terminating it cleanly and (most importantly) for modifying and getting the\r
246 current state (layout tree).</p></div>\r
247 <div class="paragraph"><p>See [<a href="http://i3wm.org/docs/ipc.html">http://i3wm.org/docs/ipc.html</a>] for documentation on the IPC interface.</p></div>\r
248 </div>\r
249 <div class="sect3">\r
250 <h4 id="_x11_xcb">3.2.4. X11::XCB</h4>\r
251 <div class="paragraph"><p>In order to open new windows, change attributes, get events, etc., the\r
252 testsuite uses X11::XCB, a new (and quite specific to i3 at the moment) Perl\r
253 module which uses the XCB protocol description to generate Perl bindings to\r
254 X11. They work in a very similar way to libxcb (which i3 uses) and provide\r
255 relatively high-level interfaces (objects such as <tt>X11::XCB::Window</tt>) as well as\r
256 access to the low-level interface, which is very useful when testing a window\r
257 manager.</p></div>\r
258 </div>\r
259 </div>\r
260 <div class="sect2">\r
261 <h3 id="_filesystem_structure">3.3. Filesystem structure</h3>\r
262 <div class="paragraph"><p>In the git root of i3, the testcases live in the folder <tt>testcases</tt>. This\r
263 folder contains the <tt>complete-run.pl</tt> and a base configuration file which will\r
264 be used for the tests. The different testcases (their file extension is .t, not\r
265 .pl) themselves can be found in the conventionally named subfolder <tt>t</tt>:</p></div>\r
266 <div class="listingblock">\r
267 <div class="title">Filesystem structure</div>\r
268 <div class="content">\r
269 <pre><tt>├── testcases\r
270 │   ├── complete-run.pl\r
271 │   ├── i3-test.config\r
272 │   ├── lib\r
273 │   │   ├── i3test.pm\r
274 │   │   ├── SocketActivation.pm\r
275 │   │   └── StartXDummy.pm\r
276 │   ├── t\r
277 │   │   ├── 00-load.t\r
278 │   │   ├── 01-tile.t\r
279 │   │   ├── 02-fullscreen.t\r
280 │   │   ├── ...\r
281 │   │   ├── omitted for brevity\r
282 │   │   ├── ...\r
283 │   │   └── 74-regress-focus-toggle.t</tt></pre>\r
284 </div></div>\r
285 </div>\r
286 </div>\r
287 </div>\r
288 <div class="sect1">\r
289 <h2 id="_anatomy_of_a_testcase">4. Anatomy of a testcase</h2>\r
290 <div class="sectionbody">\r
291 <div class="paragraph"><p>Learning by example is definitely a good strategy when you are wondering how to\r
292 write a testcase. Let&#8217;s take <tt>t/11-goto.t</tt> as an easy example and go through it\r
293 step by step:</p></div>\r
294 <div class="listingblock">\r
295 <div class="title">t/11-goto.t: Boilerplate</div>\r
296 <div class="content">\r
297 <pre><tt>#!perl\r
298 # vim:ts=4:sw=4:expandtab\r
299 \r
300 use i3test;\r
301 use File::Temp;\r
302 \r
303 my $x = X11::XCB::Connection-&gt;new;</tt></pre>\r
304 </div></div>\r
305 <div class="paragraph"><p>This is what we call boilerplate. It exists at the top of every test file (to\r
306 some extent). The first line is the shebang, which specifies that this file is\r
307 a Perl script. The second line contains VIM specific settings on how to\r
308 edit/format this file (use spaces instead of tabs, indent using 4 spaces).\r
309 Afterwards, the <tt>i3test</tt> module is used. This module contains i3 testsuite\r
310 specific functions which you are strongly encouraged to use. They make writing\r
311 testcases a lot easier and will make it easier for other people to read your\r
312 tests.</p></div>\r
313 <div class="paragraph"><p>The next line uses the <tt>File::Temp</tt> module. This is specific to this testcase,\r
314 because it needs to generate a temporary name during the test. Many testcases\r
315 use only the <tt>i3test</tt> module.</p></div>\r
316 <div class="paragraph"><p>The last line opens a connection to X11. You might or might not need this in\r
317 your testcase, depending on whether you are going to open windows (etc.) or\r
318 only use i3 commands.</p></div>\r
319 <div class="listingblock">\r
320 <div class="title">t/11-goto.t: Setup</div>\r
321 <div class="content">\r
322 <pre><tt>my $tmp = fresh_workspace;\r
323 \r
324 cmd 'split h';</tt></pre>\r
325 </div></div>\r
326 <div class="paragraph"><p>The first line calls i3test&#8217;s <tt>fresh_workspace</tt> function which looks for a\r
327 currently unused workspace, switches to it, and returns its name. The variable\r
328 <tt>$tmp</tt> will end up having a value such as <tt>"/tmp/87kBVcHbA9"</tt>. Note that this\r
329 is not (necessarily) a valid path, it&#8217;s just a random workspace name.</p></div>\r
330 <div class="paragraph"><p>So, now that we are on a new workspace, we ensure that the workspace uses\r
331 horizontal orientation by issuing the <tt>split h</tt> command (see the i3 User&#8217;s\r
332 Guide for a list of commands). This is not strictly necessary, but good style.\r
333 In general, the <tt>cmd</tt> function executes the specified i3 command by using the\r
334 IPC interface and returns once i3 acknowledged the command.</p></div>\r
335 <div class="listingblock">\r
336 <div class="title">t/11-goto.t: Setup</div>\r
337 <div class="content">\r
338 <pre><tt>#####################################################################\r
339 # Create two windows and make sure focus switching works\r
340 #####################################################################\r
341 \r
342 my $top = open_window($x);\r
343 my $mid = open_window($x);\r
344 my $bottom = open_window($x);</tt></pre>\r
345 </div></div>\r
346 <div class="paragraph"><p>In every major section of a testcase, you should put a comment like the one\r
347 above. This makes it immediately clear how the file is structured.</p></div>\r
348 <div class="paragraph"><p>The <tt>open_window</tt> function opens a standard window, which will then be put into\r
349 tiling mode by i3. If you want a floating window, use the\r
350 <tt>open_floating_window</tt> function. These functions accept the same parameters as\r
351 <tt>X11::XCB::Window&#8594;new</tt>, see the i3test documentation at TODO.</p></div>\r
352 <div class="listingblock">\r
353 <div class="title">t/11-goto.t: Helper function</div>\r
354 <div class="content">\r
355 <pre><tt>#\r
356 # Returns the input focus after sending the given command to i3 via IPC\r
357 # and syncing with i3\r
358 #\r
359 sub focus_after {\r
360     my $msg = shift;\r
361 \r
362     cmd $msg;\r
363     sync_with_i3 $x;\r
364     return $x-&gt;input_focus;\r
365 }</tt></pre>\r
366 </div></div>\r
367 <div class="paragraph"><p>This section defines a helper function which will be used over and over in this\r
368 testcase. If you have code which gets executed more than once or twice\r
369 (depending on the length of your test, use your best judgement), please put it\r
370 in a function. Tests should be short, concise and clear.</p></div>\r
371 <div class="paragraph"><p>The <tt>focus_after</tt> function executes a command and returns the X11 focus after\r
372 the command was executed. The <tt>sync_with_i3</tt> command makes sure that i3 could\r
373 push its state to X11. See <a href="#i3_sync">[i3_sync]</a> to learn how this works exactly.</p></div>\r
374 <div class="listingblock">\r
375 <div class="title">t/11-goto.t: Test assumptions</div>\r
376 <div class="content">\r
377 <pre><tt>$focus = $x-&gt;input_focus;\r
378 is($focus, $bottom-&gt;id, "Latest window focused");\r
379 \r
380 $focus = focus_after('focus left');\r
381 is($focus, $mid-&gt;id, "Middle window focused");</tt></pre>\r
382 </div></div>\r
383 <div class="paragraph"><p>Now, we run the first two real tests. They use <tt>Test::More</tt>'s <tt>is</tt> function,\r
384 which compares two values and prints the differences if they are not the same.\r
385 After the arguments, we supply a short comment to indicate what we are testing\r
386 here. This makes it vastly more easy for the developer to spot which testcase\r
387 is the problem in case one fails.</p></div>\r
388 <div class="paragraph"><p>The first test checks that the most recently opened window is focused.\r
389 Afterwards, the command <tt>focus left</tt> is issued and it is verified that the\r
390 middle window now has focus.</p></div>\r
391 <div class="paragraph"><p>Note that this is not a comprehensive test of the <tt>focus</tt> command&#8201;&#8212;&#8201;we would\r
392 have to test wrapping, focus when using a more complex layout, focusing the\r
393 parent/child containers, etc. But that is not the point of this testcase.\r
394 Instead, we just want to know if <tt>$x&#8594;input_focus</tt> corresponds with what we are\r
395 expecting. If not, something is completely wrong with the test environment and\r
396 this trivial test will fail.</p></div>\r
397 <div class="listingblock">\r
398 <div class="title">t/11-goto.t: Test that the feature does not work (yet)</div>\r
399 <div class="content">\r
400 <pre><tt>#####################################################################\r
401 # Now goto a mark which does not exist\r
402 #####################################################################\r
403 \r
404 my $random_mark = mktemp('mark.XXXXXX');\r
405 \r
406 $focus = focus_after(qq|[con_mark="$random_mark"] focus|);\r
407 is($focus, $mid-&gt;id, "focus unchanged");</tt></pre>\r
408 </div></div>\r
409 <div class="paragraph"><p>Syntax hint: The qq keyword is the interpolating quote operator. It lets you\r
410 chose a quote character (in this case the <tt>|</tt> character, a pipe). This makes\r
411 having double quotes in our string easy.</p></div>\r
412 <div class="paragraph"><p>In this new major section, a random mark (mark is an identifier for a window,\r
413 see "VIM-like marks" in the i3 User’s Guide) will be generated. Afterwards, we\r
414 test that trying to focus that mark will not do anything. This is important: Do\r
415 not only test that using a feature has the expected outcome, but also test that\r
416 using it without properly initializing it does no harm. This command could for\r
417 example have changed focus anyways (a bug) or crash i3 (obviously a bug).</p></div>\r
418 <div class="listingblock">\r
419 <div class="title">t/11-goto.t: Test that the feature does work</div>\r
420 <div class="content">\r
421 <pre><tt>cmd "mark $random_mark";\r
422 \r
423 $focus = focus_after('focus left');\r
424 is($focus, $top-&gt;id, "Top window focused");\r
425 \r
426 $focus = focus_after(qq|[con_mark="$random_mark"] focus|);\r
427 is($focus, $mid-&gt;id, "goto worked");</tt></pre>\r
428 </div></div>\r
429 <div class="paragraph"><p>Remember: Focus was on the middle window (we verified that earlier in "Test\r
430 assumptions"). We now mark the middle window with our randomly generated mark.\r
431 Afterwards, we switch focus away from the middle window to be able to tell if\r
432 focusing it via its mark will work. If the test works, the goto command seems\r
433 to be working.</p></div>\r
434 <div class="listingblock">\r
435 <div class="title">t/11-goto.t: Test corner case</div>\r
436 <div class="content">\r
437 <pre><tt># check that we can specify multiple criteria\r
438 \r
439 $focus = focus_after('focus left');\r
440 is($focus, $top-&gt;id, "Top window focused");\r
441 \r
442 $focus = focus_after(qq|[con_mark="$random_mark" con_mark="$random_mark"] focus|);\r
443 is($focus, $mid-&gt;id, "goto worked");</tt></pre>\r
444 </div></div>\r
445 <div class="paragraph"><p>Now we test the same feature, but specifying the mark twice in the command.\r
446 This should have no effect, but let’s be sure: test it and see if things go\r
447 wrong.</p></div>\r
448 <div class="listingblock">\r
449 <div class="title">t/11-goto.t: Test second code path</div>\r
450 <div class="content">\r
451 <pre><tt>#####################################################################\r
452 # Check whether the focus command will switch to a different\r
453 # workspace if necessary\r
454 #####################################################################\r
455 \r
456 my $tmp2 = fresh_workspace;\r
457 \r
458 is(focused_ws(), $tmp2, 'tmp2 now focused');\r
459 \r
460 cmd qq|[con_mark="$random_mark"] focus|;\r
461 \r
462 is(focused_ws(), $tmp, 'tmp now focused');</tt></pre>\r
463 </div></div>\r
464 <div class="paragraph"><p>This part of the test checks that focusing windows by mark works across\r
465 workspaces. It uses i3test&#8217;s <tt>focused_ws</tt> function to get the current\r
466 workspace.</p></div>\r
467 <div class="listingblock">\r
468 <div class="title">t/11-goto.t: Test second code path</div>\r
469 <div class="content">\r
470 <pre><tt>done_testing;</tt></pre>\r
471 </div></div>\r
472 <div class="paragraph"><p>The end of every testcase has to contain the <tt>done_testing</tt> line. This tells\r
473 <tt>complete-run.pl</tt> that the test was finished successfully. If it does not\r
474 occur, the test might have crashed during execution&#8201;&#8212;&#8201;some of the reasons why\r
475 that could happen are bugs in the used modules, bugs in the testcase itself or\r
476 an i3 crash resulting in the testcase being unable to communicate with i3 via\r
477 IPC anymore.</p></div>\r
478 </div>\r
479 </div>\r
480 <div class="sect1">\r
481 <h2 id="i3_sync">5. Appendix A: The i3 sync protocol</h2>\r
482 <div class="sectionbody">\r
483 <div class="paragraph"><p>Consider the following situation: You open two windows in your testcase, then\r
484 you use <tt>focus left</tt> and want to verify that the X11 focus has been updated\r
485 properly. Sounds simple, right? Let’s assume you use this straight-forward\r
486 implementation:</p></div>\r
487 <div class="listingblock">\r
488 <div class="title">Racey focus testcase</div>\r
489 <div class="content">\r
490 <pre><tt>my $left = open_window($x);\r
491 my $right = open_window($x);\r
492 cmd 'focus left';\r
493 is($x-&gt;input_focus, $left-&gt;id, 'left window focused');</tt></pre>\r
494 </div></div>\r
495 <div class="paragraph"><p>However, the test fails. Sometimes. Apparently, there is a race condition in\r
496 your test. If you think about it, this is because you are using two different\r
497 pieces of software: You tell i3 to update focus, i3 confirms that, and then you\r
498 ask X11 to give you the current focus. There is a certain time i3 needs to\r
499 update the X11 state. If the testcase gets CPU time before X11 processed i3&#8217;s\r
500 requests, the test will fail.</p></div>\r
501 <div class="imageblock">\r
502 <div class="content">\r
503 <img src="i3-sync.png" alt="Diagram of the race condition" />\r
504 </div>\r
505 <div class="title">Figure 1. Diagram of the race condition</div>\r
506 </div>\r
507 <div class="paragraph"><p>One way to "solve" this would be to add <tt>sleep 0.5;</tt> after the <tt>cmd</tt> call.\r
508 After 0.5 seconds it should be safe to assume that focus has been updated,\r
509 right?</p></div>\r
510 <div class="paragraph"><p>In practice, this usually works. However, it has several problems:</p></div>\r
511 <div class="olist arabic"><ol class="arabic">\r
512 <li>\r
513 <p>\r
514 This is obviously not a clean solution, but a workaround. Ugly.\r
515 </p>\r
516 </li>\r
517 <li>\r
518 <p>\r
519 On very slow machines, this might not work. Unlikely, but in different\r
520    situations (a delay to wait for i3 to startup) the necessary time is much\r
521    harder to guess, even for fast machines.\r
522 </p>\r
523 </li>\r
524 <li>\r
525 <p>\r
526 This <strong>wastes a lot of time</strong>. Usually, your computer is much faster than 0.5s\r
527    to update the status. However, sometimes, it might take 0.4s, so we can’t\r
528    make it <tt>sleep 0.1</tt>.\r
529 </p>\r
530 </li>\r
531 </ol></div>\r
532 <div class="paragraph"><p>To illustrate how grave the problem with wasting time actually is: Before\r
533 removing all sleeps from the testsuite, a typical run using 4 separate X\r
534 servers took around 50 seconds on my machine. After removing all the sleeps,\r
535 we achieved times of about 25 seconds. This is very significant and influences\r
536 the way you think about tests&#8201;&#8212;&#8201;the faster they are, the more likely you are\r
537 to check whether everything still works quite often (which you should).</p></div>\r
538 <div class="paragraph"><p>What I am trying to say is: Delays adds up quickly and make the test suite\r
539 less robust.</p></div>\r
540 <div class="paragraph"><p>The real solution for this problem is a mechanism which I call "the i3 sync\r
541 protocol". The idea is to send a request (which does not modify state) via X11\r
542 to i3 which will then be answered. Due to the request&#8217;s position in the event\r
543 queue (<strong>after</strong> all previous events), you can be sure that by the time you\r
544 receive the reply, all other events have been dealt with by i3 (and, more\r
545 importantly, X11).</p></div>\r
546 <div class="imageblock">\r
547 <div class="content">\r
548 <img src="i3-sync-working.png" alt="Diagram of the i3 sync solution" />\r
549 </div>\r
550 <div class="title">Figure 2. Diagram of the i3 sync solution</div>\r
551 </div>\r
552 <div class="sect2">\r
553 <h3 id="_implementation_details">5.1. Implementation details</h3>\r
554 <div class="paragraph"><p>The client which wants to sync with i3 initiates the protocol by sending a\r
555 ClientMessage to the X11 root window:</p></div>\r
556 <div class="listingblock">\r
557 <div class="title">Send ClientMessage</div>\r
558 <div class="content">\r
559 <pre><tt># Generate a ClientMessage, see xcb_client_message_t\r
560 my $msg = pack "CCSLLLLLLL",\r
561     CLIENT_MESSAGE, # response_type\r
562     32,     # format\r
563     0,      # sequence\r
564     $root,  # destination window\r
565     $x-&gt;atom(name =&gt; 'I3_SYNC')-&gt;id,\r
566 \r
567     $_sync_window-&gt;id,    # data[0]: our own window id\r
568     $myrnd, # data[1]: a random value to identify the request\r
569     0,\r
570     0,\r
571     0;\r
572 \r
573 # Send it to the root window -- since i3 uses the SubstructureRedirect\r
574 # event mask, it will get the ClientMessage.\r
575 $x-&gt;send_event(0, $root, EVENT_MASK_SUBSTRUCTURE_REDIRECT, $msg);</tt></pre>\r
576 </div></div>\r
577 <div class="paragraph"><p>i3 will then reply with the same ClientMessage, sent to the window specified in\r
578 <tt>data[0]</tt>. In the reply, <tt>data[0]</tt> and <tt>data[1]</tt> are exactly the same as in the\r
579 request. You should use a random value in <tt>data[1]</tt> and check that you received\r
580 the same one when getting the reply.</p></div>\r
581 </div>\r
582 </div>\r
583 </div>\r
584 <div class="sect1">\r
585 <h2 id="_appendix_b_socket_activation">6. Appendix B: Socket activation</h2>\r
586 <div class="sectionbody">\r
587 <div class="paragraph"><p>Socket activation is a mechanism which was made popular by systemd, an init\r
588 replacement. It basically describes creating a listening socket before starting\r
589 a program.  systemd will invoke the program only when an actual connection to\r
590 the socket is made, hence the term socket activation.</p></div>\r
591 <div class="paragraph"><p>The interesting part of this (in the i3 context) is that you can very precisely\r
592 detect when the program is ready (finished its initialization).</p></div>\r
593 <div class="sect2">\r
594 <h3 id="_preparing_the_listening_socket">6.1. Preparing the listening socket</h3>\r
595 <div class="paragraph"><p><tt>complete-run.pl</tt> will create a listening UNIX socket which it will then pass\r
596 to i3. This socket will be used by i3 as an additional IPC socket, just like\r
597 the one it will create on its own. Passing the socket happens implicitly\r
598 because children will inherit the parent’s sockets when fork()ing and sockets\r
599 will continue to exist after an exec() call (unless CLOEXEC is set of course).</p></div>\r
600 <div class="paragraph"><p>The only explicit things <tt>complete-run.pl</tt> has to do is setting the <tt>LISTEN_FDS</tt>\r
601 environment variable to the number of sockets which exist (1 in our case) and\r
602 setting the <tt>LISTEN_PID</tt> environment variable to the current process ID. Both\r
603 variables are necessary so that the program (i3) knows how many sockets it\r
604 should use and if the environment variable is actually intended for it. i3 will\r
605 then start looking for sockets at file descriptor 3 (since 0, 1 and 2 are used\r
606 for stdin, stdout and stderr, respectively).</p></div>\r
607 <div class="paragraph"><p>The actual Perl code which sets up the socket, fork()s, makes sure the socket\r
608 has file descriptor 3 and sets up the environment variables follows (shortened\r
609 a bit):</p></div>\r
610 <div class="listingblock">\r
611 <div class="title">Setup socket and environment</div>\r
612 <div class="content">\r
613 <pre><tt>my $socket = IO::Socket::UNIX-&gt;new(\r
614     Listen =&gt; 1,\r
615     Local =&gt; $args{unix_socket_path},\r
616 );\r
617 \r
618 my $pid = fork;\r
619 if ($pid == 0) {\r
620     $ENV{LISTEN_PID} = $$;\r
621     $ENV{LISTEN_FDS} = 1;\r
622 \r
623     # Only pass file descriptors 0 (stdin), 1 (stdout),\r
624     # 2 (stderr) and 3 (socket) to the child.\r
625     $^F = 3;\r
626 \r
627     # If the socket does not use file descriptor 3 by chance\r
628     # already, we close fd 3 and dup2() the socket to 3.\r
629     if (fileno($socket) != 3) {\r
630         POSIX::close(3);\r
631         POSIX::dup2(fileno($socket), 3);\r
632     }\r
633 \r
634     exec "/usr/bin/i3";\r
635 }</tt></pre>\r
636 </div></div>\r
637 </div>\r
638 <div class="sect2">\r
639 <h3 id="_waiting_for_a_reply">6.2. Waiting for a reply</h3>\r
640 <div class="paragraph"><p>In the parent process, we want to know when i3 is ready to answer our IPC\r
641 requests and handle our windows. Therefore, after forking, we immediately close\r
642 the listening socket (i3 will handle this side of the socket) and connect to it\r
643 (remember, we are talking about a named UNIX socket) as a client. This connect\r
644 call will immediately succeed because the kernel buffers it. Then, we send a\r
645 request (of type GET_TREE, but that is not really relevant). Writing data to\r
646 the socket will also succeed immediately because, again, the kernel buffers it\r
647 (only up to a certain amount of data of course).</p></div>\r
648 <div class="paragraph"><p>Afterwards, we just blockingly wait until we get an answer. In the child\r
649 process, i3 will setup the listening socket in its event loop. Immediately\r
650 after actually starting the event loop, it will notice a new client connecting\r
651 (the parent process) and handle its request. Since all initialization has been\r
652 completed successfully by the time the event loop is entered, we can now assume\r
653 that i3 is ready.</p></div>\r
654 </div>\r
655 <div class="sect2">\r
656 <h3 id="_timing_and_conclusion">6.3. Timing and conclusion</h3>\r
657 <div class="paragraph"><p>A beautiful feature of this mechanism is that it does not depend on timing. It\r
658 does not matter when the child process gets CPU time or when the parent process\r
659 gets CPU time. On heavily loaded machines (or machines with multiple CPUs,\r
660 cores or unreliable schedulers), this makes waiting for i3 much more robust.</p></div>\r
661 <div class="paragraph"><p>Before using socket activation, we typically used a <tt>sleep(1)</tt> and hoped that\r
662 i3 was initialized by that time. Of course, this breaks on some (slow)\r
663 computers and wastes a lot of time on faster computers. By using socket\r
664 activation, we decreased the total amount of time necessary to run all tests\r
665 (72 files at the time of writing) from &gt; 100 seconds to 16 seconds. This makes\r
666 it significantly more attractive to run the test suite more often (or at all)\r
667 during development.</p></div>\r
668 <div class="paragraph"><p>An alternative approach to using socket activation is polling for the existence\r
669 of the IPC socket and connecting to it. While this might be slightly easier to\r
670 implement, it wastes CPU time and is considerably uglier than this solution\r
671 :). After all, <tt>lib/SocketActivation.pm</tt> contains only 54 SLOC.</p></div>\r
672 </div>\r
673 </div>\r
674 </div>\r
675 </div>\r
676 <div id="footnotes"><hr /></div>\r
677 <div id="footer" lang="de">\r
678 © 2009-2011 Michael Stapelberg, <a href="/impress.html">Impressum</a>\r
679 </div>\r
680 </body>\r
681 </html>\r