]> git.sur5r.net Git - u-boot/blob - drivers/pci/pci-uclass.c
dm: core: Replace of_offset with accessor
[u-boot] / drivers / pci / pci-uclass.c
1 /*
2  * Copyright (c) 2014 Google, Inc
3  * Written by Simon Glass <sjg@chromium.org>
4  *
5  * SPDX-License-Identifier:     GPL-2.0+
6  */
7
8 #include <common.h>
9 #include <dm.h>
10 #include <errno.h>
11 #include <fdtdec.h>
12 #include <inttypes.h>
13 #include <pci.h>
14 #include <asm/io.h>
15 #include <dm/lists.h>
16 #include <dm/device-internal.h>
17 #if defined(CONFIG_X86) && defined(CONFIG_HAVE_FSP)
18 #include <asm/fsp/fsp_support.h>
19 #endif
20 #include "pci_internal.h"
21
22 DECLARE_GLOBAL_DATA_PTR;
23
24 int pci_get_bus(int busnum, struct udevice **busp)
25 {
26         int ret;
27
28         ret = uclass_get_device_by_seq(UCLASS_PCI, busnum, busp);
29
30         /* Since buses may not be numbered yet try a little harder with bus 0 */
31         if (ret == -ENODEV) {
32                 ret = uclass_first_device_err(UCLASS_PCI, busp);
33                 if (ret)
34                         return ret;
35                 ret = uclass_get_device_by_seq(UCLASS_PCI, busnum, busp);
36         }
37
38         return ret;
39 }
40
41 struct udevice *pci_get_controller(struct udevice *dev)
42 {
43         while (device_is_on_pci_bus(dev))
44                 dev = dev->parent;
45
46         return dev;
47 }
48
49 pci_dev_t dm_pci_get_bdf(struct udevice *dev)
50 {
51         struct pci_child_platdata *pplat = dev_get_parent_platdata(dev);
52         struct udevice *bus = dev->parent;
53
54         return PCI_ADD_BUS(bus->seq, pplat->devfn);
55 }
56
57 /**
58  * pci_get_bus_max() - returns the bus number of the last active bus
59  *
60  * @return last bus number, or -1 if no active buses
61  */
62 static int pci_get_bus_max(void)
63 {
64         struct udevice *bus;
65         struct uclass *uc;
66         int ret = -1;
67
68         ret = uclass_get(UCLASS_PCI, &uc);
69         uclass_foreach_dev(bus, uc) {
70                 if (bus->seq > ret)
71                         ret = bus->seq;
72         }
73
74         debug("%s: ret=%d\n", __func__, ret);
75
76         return ret;
77 }
78
79 int pci_last_busno(void)
80 {
81         return pci_get_bus_max();
82 }
83
84 int pci_get_ff(enum pci_size_t size)
85 {
86         switch (size) {
87         case PCI_SIZE_8:
88                 return 0xff;
89         case PCI_SIZE_16:
90                 return 0xffff;
91         default:
92                 return 0xffffffff;
93         }
94 }
95
96 int pci_bus_find_devfn(struct udevice *bus, pci_dev_t find_devfn,
97                        struct udevice **devp)
98 {
99         struct udevice *dev;
100
101         for (device_find_first_child(bus, &dev);
102              dev;
103              device_find_next_child(&dev)) {
104                 struct pci_child_platdata *pplat;
105
106                 pplat = dev_get_parent_platdata(dev);
107                 if (pplat && pplat->devfn == find_devfn) {
108                         *devp = dev;
109                         return 0;
110                 }
111         }
112
113         return -ENODEV;
114 }
115
116 int dm_pci_bus_find_bdf(pci_dev_t bdf, struct udevice **devp)
117 {
118         struct udevice *bus;
119         int ret;
120
121         ret = pci_get_bus(PCI_BUS(bdf), &bus);
122         if (ret)
123                 return ret;
124         return pci_bus_find_devfn(bus, PCI_MASK_BUS(bdf), devp);
125 }
126
127 static int pci_device_matches_ids(struct udevice *dev,
128                                   struct pci_device_id *ids)
129 {
130         struct pci_child_platdata *pplat;
131         int i;
132
133         pplat = dev_get_parent_platdata(dev);
134         if (!pplat)
135                 return -EINVAL;
136         for (i = 0; ids[i].vendor != 0; i++) {
137                 if (pplat->vendor == ids[i].vendor &&
138                     pplat->device == ids[i].device)
139                         return i;
140         }
141
142         return -EINVAL;
143 }
144
145 int pci_bus_find_devices(struct udevice *bus, struct pci_device_id *ids,
146                          int *indexp, struct udevice **devp)
147 {
148         struct udevice *dev;
149
150         /* Scan all devices on this bus */
151         for (device_find_first_child(bus, &dev);
152              dev;
153              device_find_next_child(&dev)) {
154                 if (pci_device_matches_ids(dev, ids) >= 0) {
155                         if ((*indexp)-- <= 0) {
156                                 *devp = dev;
157                                 return 0;
158                         }
159                 }
160         }
161
162         return -ENODEV;
163 }
164
165 int pci_find_device_id(struct pci_device_id *ids, int index,
166                        struct udevice **devp)
167 {
168         struct udevice *bus;
169
170         /* Scan all known buses */
171         for (uclass_first_device(UCLASS_PCI, &bus);
172              bus;
173              uclass_next_device(&bus)) {
174                 if (!pci_bus_find_devices(bus, ids, &index, devp))
175                         return 0;
176         }
177         *devp = NULL;
178
179         return -ENODEV;
180 }
181
182 static int dm_pci_bus_find_device(struct udevice *bus, unsigned int vendor,
183                                   unsigned int device, int *indexp,
184                                   struct udevice **devp)
185 {
186         struct pci_child_platdata *pplat;
187         struct udevice *dev;
188
189         for (device_find_first_child(bus, &dev);
190              dev;
191              device_find_next_child(&dev)) {
192                 pplat = dev_get_parent_platdata(dev);
193                 if (pplat->vendor == vendor && pplat->device == device) {
194                         if (!(*indexp)--) {
195                                 *devp = dev;
196                                 return 0;
197                         }
198                 }
199         }
200
201         return -ENODEV;
202 }
203
204 int dm_pci_find_device(unsigned int vendor, unsigned int device, int index,
205                        struct udevice **devp)
206 {
207         struct udevice *bus;
208
209         /* Scan all known buses */
210         for (uclass_first_device(UCLASS_PCI, &bus);
211              bus;
212              uclass_next_device(&bus)) {
213                 if (!dm_pci_bus_find_device(bus, vendor, device, &index, devp))
214                         return device_probe(*devp);
215         }
216         *devp = NULL;
217
218         return -ENODEV;
219 }
220
221 int dm_pci_find_class(uint find_class, int index, struct udevice **devp)
222 {
223         struct udevice *dev;
224
225         /* Scan all known buses */
226         for (pci_find_first_device(&dev);
227              dev;
228              pci_find_next_device(&dev)) {
229                 struct pci_child_platdata *pplat = dev_get_parent_platdata(dev);
230
231                 if (pplat->class == find_class && !index--) {
232                         *devp = dev;
233                         return device_probe(*devp);
234                 }
235         }
236         *devp = NULL;
237
238         return -ENODEV;
239 }
240
241 int pci_bus_write_config(struct udevice *bus, pci_dev_t bdf, int offset,
242                          unsigned long value, enum pci_size_t size)
243 {
244         struct dm_pci_ops *ops;
245
246         ops = pci_get_ops(bus);
247         if (!ops->write_config)
248                 return -ENOSYS;
249         return ops->write_config(bus, bdf, offset, value, size);
250 }
251
252 int pci_bus_clrset_config32(struct udevice *bus, pci_dev_t bdf, int offset,
253                             u32 clr, u32 set)
254 {
255         ulong val;
256         int ret;
257
258         ret = pci_bus_read_config(bus, bdf, offset, &val, PCI_SIZE_32);
259         if (ret)
260                 return ret;
261         val &= ~clr;
262         val |= set;
263
264         return pci_bus_write_config(bus, bdf, offset, val, PCI_SIZE_32);
265 }
266
267 int pci_write_config(pci_dev_t bdf, int offset, unsigned long value,
268                      enum pci_size_t size)
269 {
270         struct udevice *bus;
271         int ret;
272
273         ret = pci_get_bus(PCI_BUS(bdf), &bus);
274         if (ret)
275                 return ret;
276
277         return pci_bus_write_config(bus, bdf, offset, value, size);
278 }
279
280 int dm_pci_write_config(struct udevice *dev, int offset, unsigned long value,
281                         enum pci_size_t size)
282 {
283         struct udevice *bus;
284
285         for (bus = dev; device_is_on_pci_bus(bus);)
286                 bus = bus->parent;
287         return pci_bus_write_config(bus, dm_pci_get_bdf(dev), offset, value,
288                                     size);
289 }
290
291 int pci_write_config32(pci_dev_t bdf, int offset, u32 value)
292 {
293         return pci_write_config(bdf, offset, value, PCI_SIZE_32);
294 }
295
296 int pci_write_config16(pci_dev_t bdf, int offset, u16 value)
297 {
298         return pci_write_config(bdf, offset, value, PCI_SIZE_16);
299 }
300
301 int pci_write_config8(pci_dev_t bdf, int offset, u8 value)
302 {
303         return pci_write_config(bdf, offset, value, PCI_SIZE_8);
304 }
305
306 int dm_pci_write_config8(struct udevice *dev, int offset, u8 value)
307 {
308         return dm_pci_write_config(dev, offset, value, PCI_SIZE_8);
309 }
310
311 int dm_pci_write_config16(struct udevice *dev, int offset, u16 value)
312 {
313         return dm_pci_write_config(dev, offset, value, PCI_SIZE_16);
314 }
315
316 int dm_pci_write_config32(struct udevice *dev, int offset, u32 value)
317 {
318         return dm_pci_write_config(dev, offset, value, PCI_SIZE_32);
319 }
320
321 int pci_bus_read_config(struct udevice *bus, pci_dev_t bdf, int offset,
322                         unsigned long *valuep, enum pci_size_t size)
323 {
324         struct dm_pci_ops *ops;
325
326         ops = pci_get_ops(bus);
327         if (!ops->read_config)
328                 return -ENOSYS;
329         return ops->read_config(bus, bdf, offset, valuep, size);
330 }
331
332 int pci_read_config(pci_dev_t bdf, int offset, unsigned long *valuep,
333                     enum pci_size_t size)
334 {
335         struct udevice *bus;
336         int ret;
337
338         ret = pci_get_bus(PCI_BUS(bdf), &bus);
339         if (ret)
340                 return ret;
341
342         return pci_bus_read_config(bus, bdf, offset, valuep, size);
343 }
344
345 int dm_pci_read_config(struct udevice *dev, int offset, unsigned long *valuep,
346                        enum pci_size_t size)
347 {
348         struct udevice *bus;
349
350         for (bus = dev; device_is_on_pci_bus(bus);)
351                 bus = bus->parent;
352         return pci_bus_read_config(bus, dm_pci_get_bdf(dev), offset, valuep,
353                                    size);
354 }
355
356 int pci_read_config32(pci_dev_t bdf, int offset, u32 *valuep)
357 {
358         unsigned long value;
359         int ret;
360
361         ret = pci_read_config(bdf, offset, &value, PCI_SIZE_32);
362         if (ret)
363                 return ret;
364         *valuep = value;
365
366         return 0;
367 }
368
369 int pci_read_config16(pci_dev_t bdf, int offset, u16 *valuep)
370 {
371         unsigned long value;
372         int ret;
373
374         ret = pci_read_config(bdf, offset, &value, PCI_SIZE_16);
375         if (ret)
376                 return ret;
377         *valuep = value;
378
379         return 0;
380 }
381
382 int pci_read_config8(pci_dev_t bdf, int offset, u8 *valuep)
383 {
384         unsigned long value;
385         int ret;
386
387         ret = pci_read_config(bdf, offset, &value, PCI_SIZE_8);
388         if (ret)
389                 return ret;
390         *valuep = value;
391
392         return 0;
393 }
394
395 int dm_pci_read_config8(struct udevice *dev, int offset, u8 *valuep)
396 {
397         unsigned long value;
398         int ret;
399
400         ret = dm_pci_read_config(dev, offset, &value, PCI_SIZE_8);
401         if (ret)
402                 return ret;
403         *valuep = value;
404
405         return 0;
406 }
407
408 int dm_pci_read_config16(struct udevice *dev, int offset, u16 *valuep)
409 {
410         unsigned long value;
411         int ret;
412
413         ret = dm_pci_read_config(dev, offset, &value, PCI_SIZE_16);
414         if (ret)
415                 return ret;
416         *valuep = value;
417
418         return 0;
419 }
420
421 int dm_pci_read_config32(struct udevice *dev, int offset, u32 *valuep)
422 {
423         unsigned long value;
424         int ret;
425
426         ret = dm_pci_read_config(dev, offset, &value, PCI_SIZE_32);
427         if (ret)
428                 return ret;
429         *valuep = value;
430
431         return 0;
432 }
433
434 int dm_pci_clrset_config8(struct udevice *dev, int offset, u32 clr, u32 set)
435 {
436         u8 val;
437         int ret;
438
439         ret = dm_pci_read_config8(dev, offset, &val);
440         if (ret)
441                 return ret;
442         val &= ~clr;
443         val |= set;
444
445         return dm_pci_write_config8(dev, offset, val);
446 }
447
448 int dm_pci_clrset_config16(struct udevice *dev, int offset, u32 clr, u32 set)
449 {
450         u16 val;
451         int ret;
452
453         ret = dm_pci_read_config16(dev, offset, &val);
454         if (ret)
455                 return ret;
456         val &= ~clr;
457         val |= set;
458
459         return dm_pci_write_config16(dev, offset, val);
460 }
461
462 int dm_pci_clrset_config32(struct udevice *dev, int offset, u32 clr, u32 set)
463 {
464         u32 val;
465         int ret;
466
467         ret = dm_pci_read_config32(dev, offset, &val);
468         if (ret)
469                 return ret;
470         val &= ~clr;
471         val |= set;
472
473         return dm_pci_write_config32(dev, offset, val);
474 }
475
476 static void set_vga_bridge_bits(struct udevice *dev)
477 {
478         struct udevice *parent = dev->parent;
479         u16 bc;
480
481         while (parent->seq != 0) {
482                 dm_pci_read_config16(parent, PCI_BRIDGE_CONTROL, &bc);
483                 bc |= PCI_BRIDGE_CTL_VGA;
484                 dm_pci_write_config16(parent, PCI_BRIDGE_CONTROL, bc);
485                 parent = parent->parent;
486         }
487 }
488
489 int pci_auto_config_devices(struct udevice *bus)
490 {
491         struct pci_controller *hose = bus->uclass_priv;
492         struct pci_child_platdata *pplat;
493         unsigned int sub_bus;
494         struct udevice *dev;
495         int ret;
496
497         sub_bus = bus->seq;
498         debug("%s: start\n", __func__);
499         pciauto_config_init(hose);
500         for (ret = device_find_first_child(bus, &dev);
501              !ret && dev;
502              ret = device_find_next_child(&dev)) {
503                 unsigned int max_bus;
504                 int ret;
505
506                 debug("%s: device %s\n", __func__, dev->name);
507                 ret = dm_pciauto_config_device(dev);
508                 if (ret < 0)
509                         return ret;
510                 max_bus = ret;
511                 sub_bus = max(sub_bus, max_bus);
512
513                 pplat = dev_get_parent_platdata(dev);
514                 if (pplat->class == (PCI_CLASS_DISPLAY_VGA << 8))
515                         set_vga_bridge_bits(dev);
516         }
517         debug("%s: done\n", __func__);
518
519         return sub_bus;
520 }
521
522 int dm_pci_hose_probe_bus(struct udevice *bus)
523 {
524         int sub_bus;
525         int ret;
526
527         debug("%s\n", __func__);
528
529         sub_bus = pci_get_bus_max() + 1;
530         debug("%s: bus = %d/%s\n", __func__, sub_bus, bus->name);
531         dm_pciauto_prescan_setup_bridge(bus, sub_bus);
532
533         ret = device_probe(bus);
534         if (ret) {
535                 debug("%s: Cannot probe bus %s: %d\n", __func__, bus->name,
536                       ret);
537                 return ret;
538         }
539         if (sub_bus != bus->seq) {
540                 printf("%s: Internal error, bus '%s' got seq %d, expected %d\n",
541                        __func__, bus->name, bus->seq, sub_bus);
542                 return -EPIPE;
543         }
544         sub_bus = pci_get_bus_max();
545         dm_pciauto_postscan_setup_bridge(bus, sub_bus);
546
547         return sub_bus;
548 }
549
550 /**
551  * pci_match_one_device - Tell if a PCI device structure has a matching
552  *                        PCI device id structure
553  * @id: single PCI device id structure to match
554  * @dev: the PCI device structure to match against
555  *
556  * Returns the matching pci_device_id structure or %NULL if there is no match.
557  */
558 static bool pci_match_one_id(const struct pci_device_id *id,
559                              const struct pci_device_id *find)
560 {
561         if ((id->vendor == PCI_ANY_ID || id->vendor == find->vendor) &&
562             (id->device == PCI_ANY_ID || id->device == find->device) &&
563             (id->subvendor == PCI_ANY_ID || id->subvendor == find->subvendor) &&
564             (id->subdevice == PCI_ANY_ID || id->subdevice == find->subdevice) &&
565             !((id->class ^ find->class) & id->class_mask))
566                 return true;
567
568         return false;
569 }
570
571 /**
572  * pci_find_and_bind_driver() - Find and bind the right PCI driver
573  *
574  * This only looks at certain fields in the descriptor.
575  *
576  * @parent:     Parent bus
577  * @find_id:    Specification of the driver to find
578  * @bdf:        Bus/device/function addreess - see PCI_BDF()
579  * @devp:       Returns a pointer to the device created
580  * @return 0 if OK, -EPERM if the device is not needed before relocation and
581  *         therefore was not created, other -ve value on error
582  */
583 static int pci_find_and_bind_driver(struct udevice *parent,
584                                     struct pci_device_id *find_id,
585                                     pci_dev_t bdf, struct udevice **devp)
586 {
587         struct pci_driver_entry *start, *entry;
588         const char *drv;
589         int n_ents;
590         int ret;
591         char name[30], *str;
592         bool bridge;
593
594         *devp = NULL;
595
596         debug("%s: Searching for driver: vendor=%x, device=%x\n", __func__,
597               find_id->vendor, find_id->device);
598         start = ll_entry_start(struct pci_driver_entry, pci_driver_entry);
599         n_ents = ll_entry_count(struct pci_driver_entry, pci_driver_entry);
600         for (entry = start; entry != start + n_ents; entry++) {
601                 const struct pci_device_id *id;
602                 struct udevice *dev;
603                 const struct driver *drv;
604
605                 for (id = entry->match;
606                      id->vendor || id->subvendor || id->class_mask;
607                      id++) {
608                         if (!pci_match_one_id(id, find_id))
609                                 continue;
610
611                         drv = entry->driver;
612
613                         /*
614                          * In the pre-relocation phase, we only bind devices
615                          * whose driver has the DM_FLAG_PRE_RELOC set, to save
616                          * precious memory space as on some platforms as that
617                          * space is pretty limited (ie: using Cache As RAM).
618                          */
619                         if (!(gd->flags & GD_FLG_RELOC) &&
620                             !(drv->flags & DM_FLAG_PRE_RELOC))
621                                 return -EPERM;
622
623                         /*
624                          * We could pass the descriptor to the driver as
625                          * platdata (instead of NULL) and allow its bind()
626                          * method to return -ENOENT if it doesn't support this
627                          * device. That way we could continue the search to
628                          * find another driver. For now this doesn't seem
629                          * necesssary, so just bind the first match.
630                          */
631                         ret = device_bind(parent, drv, drv->name, NULL, -1,
632                                           &dev);
633                         if (ret)
634                                 goto error;
635                         debug("%s: Match found: %s\n", __func__, drv->name);
636                         dev->driver_data = find_id->driver_data;
637                         *devp = dev;
638                         return 0;
639                 }
640         }
641
642         bridge = (find_id->class >> 8) == PCI_CLASS_BRIDGE_PCI;
643         /*
644          * In the pre-relocation phase, we only bind bridge devices to save
645          * precious memory space as on some platforms as that space is pretty
646          * limited (ie: using Cache As RAM).
647          */
648         if (!(gd->flags & GD_FLG_RELOC) && !bridge)
649                 return -EPERM;
650
651         /* Bind a generic driver so that the device can be used */
652         sprintf(name, "pci_%x:%x.%x", parent->seq, PCI_DEV(bdf),
653                 PCI_FUNC(bdf));
654         str = strdup(name);
655         if (!str)
656                 return -ENOMEM;
657         drv = bridge ? "pci_bridge_drv" : "pci_generic_drv";
658
659         ret = device_bind_driver(parent, drv, str, devp);
660         if (ret) {
661                 debug("%s: Failed to bind generic driver: %d\n", __func__, ret);
662                 return ret;
663         }
664         debug("%s: No match found: bound generic driver instead\n", __func__);
665
666         return 0;
667
668 error:
669         debug("%s: No match found: error %d\n", __func__, ret);
670         return ret;
671 }
672
673 int pci_bind_bus_devices(struct udevice *bus)
674 {
675         ulong vendor, device;
676         ulong header_type;
677         pci_dev_t bdf, end;
678         bool found_multi;
679         int ret;
680
681         found_multi = false;
682         end = PCI_BDF(bus->seq, PCI_MAX_PCI_DEVICES - 1,
683                       PCI_MAX_PCI_FUNCTIONS - 1);
684         for (bdf = PCI_BDF(bus->seq, 0, 0); bdf <= end;
685              bdf += PCI_BDF(0, 0, 1)) {
686                 struct pci_child_platdata *pplat;
687                 struct udevice *dev;
688                 ulong class;
689
690                 if (PCI_FUNC(bdf) && !found_multi)
691                         continue;
692                 /* Check only the first access, we don't expect problems */
693                 ret = pci_bus_read_config(bus, bdf, PCI_HEADER_TYPE,
694                                           &header_type, PCI_SIZE_8);
695                 if (ret)
696                         goto error;
697                 pci_bus_read_config(bus, bdf, PCI_VENDOR_ID, &vendor,
698                                     PCI_SIZE_16);
699                 if (vendor == 0xffff || vendor == 0x0000)
700                         continue;
701
702                 if (!PCI_FUNC(bdf))
703                         found_multi = header_type & 0x80;
704
705                 debug("%s: bus %d/%s: found device %x, function %d\n", __func__,
706                       bus->seq, bus->name, PCI_DEV(bdf), PCI_FUNC(bdf));
707                 pci_bus_read_config(bus, bdf, PCI_DEVICE_ID, &device,
708                                     PCI_SIZE_16);
709                 pci_bus_read_config(bus, bdf, PCI_CLASS_REVISION, &class,
710                                     PCI_SIZE_32);
711                 class >>= 8;
712
713                 /* Find this device in the device tree */
714                 ret = pci_bus_find_devfn(bus, PCI_MASK_BUS(bdf), &dev);
715
716                 /* If nothing in the device tree, bind a device */
717                 if (ret == -ENODEV) {
718                         struct pci_device_id find_id;
719                         ulong val;
720
721                         memset(&find_id, '\0', sizeof(find_id));
722                         find_id.vendor = vendor;
723                         find_id.device = device;
724                         find_id.class = class;
725                         if ((header_type & 0x7f) == PCI_HEADER_TYPE_NORMAL) {
726                                 pci_bus_read_config(bus, bdf,
727                                                     PCI_SUBSYSTEM_VENDOR_ID,
728                                                     &val, PCI_SIZE_32);
729                                 find_id.subvendor = val & 0xffff;
730                                 find_id.subdevice = val >> 16;
731                         }
732                         ret = pci_find_and_bind_driver(bus, &find_id, bdf,
733                                                        &dev);
734                 }
735                 if (ret == -EPERM)
736                         continue;
737                 else if (ret)
738                         return ret;
739
740                 /* Update the platform data */
741                 pplat = dev_get_parent_platdata(dev);
742                 pplat->devfn = PCI_MASK_BUS(bdf);
743                 pplat->vendor = vendor;
744                 pplat->device = device;
745                 pplat->class = class;
746         }
747
748         return 0;
749 error:
750         printf("Cannot read bus configuration: %d\n", ret);
751
752         return ret;
753 }
754
755 static int decode_regions(struct pci_controller *hose, const void *blob,
756                           int parent_node, int node)
757 {
758         int pci_addr_cells, addr_cells, size_cells;
759         phys_addr_t base = 0, size;
760         int cells_per_record;
761         const u32 *prop;
762         int len;
763         int i;
764
765         prop = fdt_getprop(blob, node, "ranges", &len);
766         if (!prop)
767                 return -EINVAL;
768         pci_addr_cells = fdt_address_cells(blob, node);
769         addr_cells = fdt_address_cells(blob, parent_node);
770         size_cells = fdt_size_cells(blob, node);
771
772         /* PCI addresses are always 3-cells */
773         len /= sizeof(u32);
774         cells_per_record = pci_addr_cells + addr_cells + size_cells;
775         hose->region_count = 0;
776         debug("%s: len=%d, cells_per_record=%d\n", __func__, len,
777               cells_per_record);
778         for (i = 0; i < MAX_PCI_REGIONS; i++, len -= cells_per_record) {
779                 u64 pci_addr, addr, size;
780                 int space_code;
781                 u32 flags;
782                 int type;
783                 int pos;
784
785                 if (len < cells_per_record)
786                         break;
787                 flags = fdt32_to_cpu(prop[0]);
788                 space_code = (flags >> 24) & 3;
789                 pci_addr = fdtdec_get_number(prop + 1, 2);
790                 prop += pci_addr_cells;
791                 addr = fdtdec_get_number(prop, addr_cells);
792                 prop += addr_cells;
793                 size = fdtdec_get_number(prop, size_cells);
794                 prop += size_cells;
795                 debug("%s: region %d, pci_addr=%" PRIx64 ", addr=%" PRIx64
796                       ", size=%" PRIx64 ", space_code=%d\n", __func__,
797                       hose->region_count, pci_addr, addr, size, space_code);
798                 if (space_code & 2) {
799                         type = flags & (1U << 30) ? PCI_REGION_PREFETCH :
800                                         PCI_REGION_MEM;
801                 } else if (space_code & 1) {
802                         type = PCI_REGION_IO;
803                 } else {
804                         continue;
805                 }
806                 pos = -1;
807                 for (i = 0; i < hose->region_count; i++) {
808                         if (hose->regions[i].flags == type)
809                                 pos = i;
810                 }
811                 if (pos == -1)
812                         pos = hose->region_count++;
813                 debug(" - type=%d, pos=%d\n", type, pos);
814                 pci_set_region(hose->regions + pos, pci_addr, addr, size, type);
815         }
816
817         /* Add a region for our local memory */
818         size = gd->ram_size;
819 #ifdef CONFIG_SYS_SDRAM_BASE
820         base = CONFIG_SYS_SDRAM_BASE;
821 #endif
822         if (gd->pci_ram_top && gd->pci_ram_top < base + size)
823                 size = gd->pci_ram_top - base;
824         pci_set_region(hose->regions + hose->region_count++, base, base,
825                        size, PCI_REGION_MEM | PCI_REGION_SYS_MEMORY);
826
827         return 0;
828 }
829
830 static int pci_uclass_pre_probe(struct udevice *bus)
831 {
832         struct pci_controller *hose;
833         int ret;
834
835         debug("%s, bus=%d/%s, parent=%s\n", __func__, bus->seq, bus->name,
836               bus->parent->name);
837         hose = bus->uclass_priv;
838
839         /* For bridges, use the top-level PCI controller */
840         if (!device_is_on_pci_bus(bus)) {
841                 hose->ctlr = bus;
842                 ret = decode_regions(hose, gd->fdt_blob,
843                                      dev_of_offset(bus->parent),
844                                      dev_of_offset(bus));
845                 if (ret) {
846                         debug("%s: Cannot decode regions\n", __func__);
847                         return ret;
848                 }
849         } else {
850                 struct pci_controller *parent_hose;
851
852                 parent_hose = dev_get_uclass_priv(bus->parent);
853                 hose->ctlr = parent_hose->bus;
854         }
855         hose->bus = bus;
856         hose->first_busno = bus->seq;
857         hose->last_busno = bus->seq;
858
859         return 0;
860 }
861
862 static int pci_uclass_post_probe(struct udevice *bus)
863 {
864         int ret;
865
866         debug("%s: probing bus %d\n", __func__, bus->seq);
867         ret = pci_bind_bus_devices(bus);
868         if (ret)
869                 return ret;
870
871 #ifdef CONFIG_PCI_PNP
872         ret = pci_auto_config_devices(bus);
873         if (ret < 0)
874                 return ret;
875 #endif
876
877 #if defined(CONFIG_X86) && defined(CONFIG_HAVE_FSP)
878         /*
879          * Per Intel FSP specification, we should call FSP notify API to
880          * inform FSP that PCI enumeration has been done so that FSP will
881          * do any necessary initialization as required by the chipset's
882          * BIOS Writer's Guide (BWG).
883          *
884          * Unfortunately we have to put this call here as with driver model,
885          * the enumeration is all done on a lazy basis as needed, so until
886          * something is touched on PCI it won't happen.
887          *
888          * Note we only call this 1) after U-Boot is relocated, and 2)
889          * root bus has finished probing.
890          */
891         if ((gd->flags & GD_FLG_RELOC) && (bus->seq == 0)) {
892                 ret = fsp_init_phase_pci();
893                 if (ret)
894                         return ret;
895         }
896 #endif
897
898         return 0;
899 }
900
901 static int pci_uclass_child_post_bind(struct udevice *dev)
902 {
903         struct pci_child_platdata *pplat;
904         struct fdt_pci_addr addr;
905         int ret;
906
907         if (dev_of_offset(dev) == -1)
908                 return 0;
909
910         /*
911          * We could read vendor, device, class if available. But for now we
912          * just check the address.
913          */
914         pplat = dev_get_parent_platdata(dev);
915         ret = fdtdec_get_pci_addr(gd->fdt_blob, dev_of_offset(dev),
916                                   FDT_PCI_SPACE_CONFIG, "reg", &addr);
917
918         if (ret) {
919                 if (ret != -ENOENT)
920                         return -EINVAL;
921         } else {
922                 /* extract the devfn from fdt_pci_addr */
923                 pplat->devfn = addr.phys_hi & 0xff00;
924         }
925
926         return 0;
927 }
928
929 static int pci_bridge_read_config(struct udevice *bus, pci_dev_t bdf,
930                                   uint offset, ulong *valuep,
931                                   enum pci_size_t size)
932 {
933         struct pci_controller *hose = bus->uclass_priv;
934
935         return pci_bus_read_config(hose->ctlr, bdf, offset, valuep, size);
936 }
937
938 static int pci_bridge_write_config(struct udevice *bus, pci_dev_t bdf,
939                                    uint offset, ulong value,
940                                    enum pci_size_t size)
941 {
942         struct pci_controller *hose = bus->uclass_priv;
943
944         return pci_bus_write_config(hose->ctlr, bdf, offset, value, size);
945 }
946
947 static int skip_to_next_device(struct udevice *bus, struct udevice **devp)
948 {
949         struct udevice *dev;
950         int ret = 0;
951
952         /*
953          * Scan through all the PCI controllers. On x86 there will only be one
954          * but that is not necessarily true on other hardware.
955          */
956         do {
957                 device_find_first_child(bus, &dev);
958                 if (dev) {
959                         *devp = dev;
960                         return 0;
961                 }
962                 ret = uclass_next_device(&bus);
963                 if (ret)
964                         return ret;
965         } while (bus);
966
967         return 0;
968 }
969
970 int pci_find_next_device(struct udevice **devp)
971 {
972         struct udevice *child = *devp;
973         struct udevice *bus = child->parent;
974         int ret;
975
976         /* First try all the siblings */
977         *devp = NULL;
978         while (child) {
979                 device_find_next_child(&child);
980                 if (child) {
981                         *devp = child;
982                         return 0;
983                 }
984         }
985
986         /* We ran out of siblings. Try the next bus */
987         ret = uclass_next_device(&bus);
988         if (ret)
989                 return ret;
990
991         return bus ? skip_to_next_device(bus, devp) : 0;
992 }
993
994 int pci_find_first_device(struct udevice **devp)
995 {
996         struct udevice *bus;
997         int ret;
998
999         *devp = NULL;
1000         ret = uclass_first_device(UCLASS_PCI, &bus);
1001         if (ret)
1002                 return ret;
1003
1004         return skip_to_next_device(bus, devp);
1005 }
1006
1007 ulong pci_conv_32_to_size(ulong value, uint offset, enum pci_size_t size)
1008 {
1009         switch (size) {
1010         case PCI_SIZE_8:
1011                 return (value >> ((offset & 3) * 8)) & 0xff;
1012         case PCI_SIZE_16:
1013                 return (value >> ((offset & 2) * 8)) & 0xffff;
1014         default:
1015                 return value;
1016         }
1017 }
1018
1019 ulong pci_conv_size_to_32(ulong old, ulong value, uint offset,
1020                           enum pci_size_t size)
1021 {
1022         uint off_mask;
1023         uint val_mask, shift;
1024         ulong ldata, mask;
1025
1026         switch (size) {
1027         case PCI_SIZE_8:
1028                 off_mask = 3;
1029                 val_mask = 0xff;
1030                 break;
1031         case PCI_SIZE_16:
1032                 off_mask = 2;
1033                 val_mask = 0xffff;
1034                 break;
1035         default:
1036                 return value;
1037         }
1038         shift = (offset & off_mask) * 8;
1039         ldata = (value & val_mask) << shift;
1040         mask = val_mask << shift;
1041         value = (old & ~mask) | ldata;
1042
1043         return value;
1044 }
1045
1046 int pci_get_regions(struct udevice *dev, struct pci_region **iop,
1047                     struct pci_region **memp, struct pci_region **prefp)
1048 {
1049         struct udevice *bus = pci_get_controller(dev);
1050         struct pci_controller *hose = dev_get_uclass_priv(bus);
1051         int i;
1052
1053         *iop = NULL;
1054         *memp = NULL;
1055         *prefp = NULL;
1056         for (i = 0; i < hose->region_count; i++) {
1057                 switch (hose->regions[i].flags) {
1058                 case PCI_REGION_IO:
1059                         if (!*iop || (*iop)->size < hose->regions[i].size)
1060                                 *iop = hose->regions + i;
1061                         break;
1062                 case PCI_REGION_MEM:
1063                         if (!*memp || (*memp)->size < hose->regions[i].size)
1064                                 *memp = hose->regions + i;
1065                         break;
1066                 case (PCI_REGION_MEM | PCI_REGION_PREFETCH):
1067                         if (!*prefp || (*prefp)->size < hose->regions[i].size)
1068                                 *prefp = hose->regions + i;
1069                         break;
1070                 }
1071         }
1072
1073         return (*iop != NULL) + (*memp != NULL) + (*prefp != NULL);
1074 }
1075
1076 u32 dm_pci_read_bar32(struct udevice *dev, int barnum)
1077 {
1078         u32 addr;
1079         int bar;
1080
1081         bar = PCI_BASE_ADDRESS_0 + barnum * 4;
1082         dm_pci_read_config32(dev, bar, &addr);
1083         if (addr & PCI_BASE_ADDRESS_SPACE_IO)
1084                 return addr & PCI_BASE_ADDRESS_IO_MASK;
1085         else
1086                 return addr & PCI_BASE_ADDRESS_MEM_MASK;
1087 }
1088
1089 void dm_pci_write_bar32(struct udevice *dev, int barnum, u32 addr)
1090 {
1091         int bar;
1092
1093         bar = PCI_BASE_ADDRESS_0 + barnum * 4;
1094         dm_pci_write_config32(dev, bar, addr);
1095 }
1096
1097 static int _dm_pci_bus_to_phys(struct udevice *ctlr,
1098                                pci_addr_t bus_addr, unsigned long flags,
1099                                unsigned long skip_mask, phys_addr_t *pa)
1100 {
1101         struct pci_controller *hose = dev_get_uclass_priv(ctlr);
1102         struct pci_region *res;
1103         int i;
1104
1105         for (i = 0; i < hose->region_count; i++) {
1106                 res = &hose->regions[i];
1107
1108                 if (((res->flags ^ flags) & PCI_REGION_TYPE) != 0)
1109                         continue;
1110
1111                 if (res->flags & skip_mask)
1112                         continue;
1113
1114                 if (bus_addr >= res->bus_start &&
1115                     (bus_addr - res->bus_start) < res->size) {
1116                         *pa = (bus_addr - res->bus_start + res->phys_start);
1117                         return 0;
1118                 }
1119         }
1120
1121         return 1;
1122 }
1123
1124 phys_addr_t dm_pci_bus_to_phys(struct udevice *dev, pci_addr_t bus_addr,
1125                                unsigned long flags)
1126 {
1127         phys_addr_t phys_addr = 0;
1128         struct udevice *ctlr;
1129         int ret;
1130
1131         /* The root controller has the region information */
1132         ctlr = pci_get_controller(dev);
1133
1134         /*
1135          * if PCI_REGION_MEM is set we do a two pass search with preference
1136          * on matches that don't have PCI_REGION_SYS_MEMORY set
1137          */
1138         if ((flags & PCI_REGION_TYPE) == PCI_REGION_MEM) {
1139                 ret = _dm_pci_bus_to_phys(ctlr, bus_addr,
1140                                           flags, PCI_REGION_SYS_MEMORY,
1141                                           &phys_addr);
1142                 if (!ret)
1143                         return phys_addr;
1144         }
1145
1146         ret = _dm_pci_bus_to_phys(ctlr, bus_addr, flags, 0, &phys_addr);
1147
1148         if (ret)
1149                 puts("pci_hose_bus_to_phys: invalid physical address\n");
1150
1151         return phys_addr;
1152 }
1153
1154 int _dm_pci_phys_to_bus(struct udevice *dev, phys_addr_t phys_addr,
1155                         unsigned long flags, unsigned long skip_mask,
1156                         pci_addr_t *ba)
1157 {
1158         struct pci_region *res;
1159         struct udevice *ctlr;
1160         pci_addr_t bus_addr;
1161         int i;
1162         struct pci_controller *hose;
1163
1164         /* The root controller has the region information */
1165         ctlr = pci_get_controller(dev);
1166         hose = dev_get_uclass_priv(ctlr);
1167
1168         for (i = 0; i < hose->region_count; i++) {
1169                 res = &hose->regions[i];
1170
1171                 if (((res->flags ^ flags) & PCI_REGION_TYPE) != 0)
1172                         continue;
1173
1174                 if (res->flags & skip_mask)
1175                         continue;
1176
1177                 bus_addr = phys_addr - res->phys_start + res->bus_start;
1178
1179                 if (bus_addr >= res->bus_start &&
1180                     (bus_addr - res->bus_start) < res->size) {
1181                         *ba = bus_addr;
1182                         return 0;
1183                 }
1184         }
1185
1186         return 1;
1187 }
1188
1189 pci_addr_t dm_pci_phys_to_bus(struct udevice *dev, phys_addr_t phys_addr,
1190                               unsigned long flags)
1191 {
1192         pci_addr_t bus_addr = 0;
1193         int ret;
1194
1195         /*
1196          * if PCI_REGION_MEM is set we do a two pass search with preference
1197          * on matches that don't have PCI_REGION_SYS_MEMORY set
1198          */
1199         if ((flags & PCI_REGION_TYPE) == PCI_REGION_MEM) {
1200                 ret = _dm_pci_phys_to_bus(dev, phys_addr, flags,
1201                                           PCI_REGION_SYS_MEMORY, &bus_addr);
1202                 if (!ret)
1203                         return bus_addr;
1204         }
1205
1206         ret = _dm_pci_phys_to_bus(dev, phys_addr, flags, 0, &bus_addr);
1207
1208         if (ret)
1209                 puts("pci_hose_phys_to_bus: invalid physical address\n");
1210
1211         return bus_addr;
1212 }
1213
1214 void *dm_pci_map_bar(struct udevice *dev, int bar, int flags)
1215 {
1216         pci_addr_t pci_bus_addr;
1217         u32 bar_response;
1218
1219         /* read BAR address */
1220         dm_pci_read_config32(dev, bar, &bar_response);
1221         pci_bus_addr = (pci_addr_t)(bar_response & ~0xf);
1222
1223         /*
1224          * Pass "0" as the length argument to pci_bus_to_virt.  The arg
1225          * isn't actualy used on any platform because u-boot assumes a static
1226          * linear mapping.  In the future, this could read the BAR size
1227          * and pass that as the size if needed.
1228          */
1229         return dm_pci_bus_to_virt(dev, pci_bus_addr, flags, 0, MAP_NOCACHE);
1230 }
1231
1232 UCLASS_DRIVER(pci) = {
1233         .id             = UCLASS_PCI,
1234         .name           = "pci",
1235         .flags          = DM_UC_FLAG_SEQ_ALIAS,
1236         .post_bind      = dm_scan_fdt_dev,
1237         .pre_probe      = pci_uclass_pre_probe,
1238         .post_probe     = pci_uclass_post_probe,
1239         .child_post_bind = pci_uclass_child_post_bind,
1240         .per_device_auto_alloc_size = sizeof(struct pci_controller),
1241         .per_child_platdata_auto_alloc_size =
1242                         sizeof(struct pci_child_platdata),
1243 };
1244
1245 static const struct dm_pci_ops pci_bridge_ops = {
1246         .read_config    = pci_bridge_read_config,
1247         .write_config   = pci_bridge_write_config,
1248 };
1249
1250 static const struct udevice_id pci_bridge_ids[] = {
1251         { .compatible = "pci-bridge" },
1252         { }
1253 };
1254
1255 U_BOOT_DRIVER(pci_bridge_drv) = {
1256         .name           = "pci_bridge_drv",
1257         .id             = UCLASS_PCI,
1258         .of_match       = pci_bridge_ids,
1259         .ops            = &pci_bridge_ops,
1260 };
1261
1262 UCLASS_DRIVER(pci_generic) = {
1263         .id             = UCLASS_PCI_GENERIC,
1264         .name           = "pci_generic",
1265 };
1266
1267 static const struct udevice_id pci_generic_ids[] = {
1268         { .compatible = "pci-generic" },
1269         { }
1270 };
1271
1272 U_BOOT_DRIVER(pci_generic_drv) = {
1273         .name           = "pci_generic_drv",
1274         .id             = UCLASS_PCI_GENERIC,
1275         .of_match       = pci_generic_ids,
1276 };
1277
1278 void pci_init(void)
1279 {
1280         struct udevice *bus;
1281
1282         /*
1283          * Enumerate all known controller devices. Enumeration has the side-
1284          * effect of probing them, so PCIe devices will be enumerated too.
1285          */
1286         for (uclass_first_device(UCLASS_PCI, &bus);
1287              bus;
1288              uclass_next_device(&bus)) {
1289                 ;
1290         }
1291 }