]> git.sur5r.net Git - u-boot/blob - drivers/ata/fsl_sata.c
Merge git://git.denx.de/u-boot-tegra
[u-boot] / drivers / ata / fsl_sata.c
1 // SPDX-License-Identifier: GPL-2.0+
2 /*
3  * Copyright (C) 2008,2010 Freescale Semiconductor, Inc.
4  *              Dave Liu <daveliu@freescale.com>
5  */
6
7 #include <common.h>
8 #include <command.h>
9 #include <console.h>
10 #include <asm/io.h>
11 #include <asm/processor.h>
12 #include <asm/fsl_serdes.h>
13 #include <malloc.h>
14 #include <libata.h>
15 #include <fis.h>
16 #include <sata.h>
17 #include "fsl_sata.h"
18
19 #ifndef CONFIG_SYS_SATA1_FLAGS
20         #define CONFIG_SYS_SATA1_FLAGS  FLAGS_DMA
21 #endif
22 #ifndef CONFIG_SYS_SATA2_FLAGS
23         #define CONFIG_SYS_SATA2_FLAGS  FLAGS_DMA
24 #endif
25
26 static struct fsl_sata_info fsl_sata_info[] = {
27 #ifdef CONFIG_SATA1
28         {CONFIG_SYS_SATA1, CONFIG_SYS_SATA1_FLAGS},
29 #else
30         {0, 0},
31 #endif
32 #ifdef CONFIG_SATA2
33         {CONFIG_SYS_SATA2, CONFIG_SYS_SATA2_FLAGS},
34 #else
35         {0, 0},
36 #endif
37 };
38
39 static inline void sdelay(unsigned long sec)
40 {
41         unsigned long i;
42         for (i = 0; i < sec; i++)
43                 mdelay(1000);
44 }
45
46 static void fsl_sata_dump_sfis(struct sata_fis_d2h *s)
47 {
48         printf("Status FIS dump:\n\r");
49         printf("fis_type:               %02x\n\r", s->fis_type);
50         printf("pm_port_i:              %02x\n\r", s->pm_port_i);
51         printf("status:                 %02x\n\r", s->status);
52         printf("error:                  %02x\n\r", s->error);
53         printf("lba_low:                %02x\n\r", s->lba_low);
54         printf("lba_mid:                %02x\n\r", s->lba_mid);
55         printf("lba_high:               %02x\n\r", s->lba_high);
56         printf("device:                 %02x\n\r", s->device);
57         printf("lba_low_exp:            %02x\n\r", s->lba_low_exp);
58         printf("lba_mid_exp:            %02x\n\r", s->lba_mid_exp);
59         printf("lba_high_exp:           %02x\n\r", s->lba_high_exp);
60         printf("res1:                   %02x\n\r", s->res1);
61         printf("sector_count:           %02x\n\r", s->sector_count);
62         printf("sector_count_exp:       %02x\n\r", s->sector_count_exp);
63 }
64
65 static int ata_wait_register(unsigned __iomem *addr, u32 mask,
66                          u32 val, u32 timeout_msec)
67 {
68         int i;
69         u32 temp;
70
71         for (i = 0; (((temp = in_le32(addr)) & mask) != val)
72                          && i < timeout_msec; i++)
73                 mdelay(1);
74         return (i < timeout_msec) ? 0 : -1;
75 }
76
77 int init_sata(int dev)
78 {
79         u32 length, align;
80         cmd_hdr_tbl_t *cmd_hdr;
81         u32 cda;
82         u32 val32;
83         fsl_sata_reg_t __iomem *reg;
84         u32 sig;
85         int i;
86         fsl_sata_t *sata;
87
88         if (dev < 0 || dev > (CONFIG_SYS_SATA_MAX_DEVICE - 1)) {
89                 printf("the sata index %d is out of ranges\n\r", dev);
90                 return -1;
91         }
92
93 #ifdef CONFIG_MPC85xx
94         if ((dev == 0) && (!is_serdes_configured(SATA1))) {
95                 printf("SATA%d [dev = %d] is not enabled\n", dev+1, dev);
96                 return -1;
97         }
98         if ((dev == 1) && (!is_serdes_configured(SATA2))) {
99                 printf("SATA%d [dev = %d] is not enabled\n", dev+1, dev);
100                 return -1;
101         }
102 #endif
103
104         /* Allocate SATA device driver struct */
105         sata = (fsl_sata_t *)malloc(sizeof(fsl_sata_t));
106         if (!sata) {
107                 printf("alloc the sata device struct failed\n\r");
108                 return -1;
109         }
110         /* Zero all of the device driver struct */
111         memset((void *)sata, 0, sizeof(fsl_sata_t));
112
113         /* Save the private struct to block device struct */
114         sata_dev_desc[dev].priv = (void *)sata;
115
116         snprintf(sata->name, 12, "SATA%d", dev);
117
118         /* Set the controller register base address to device struct */
119         reg = (fsl_sata_reg_t *)(fsl_sata_info[dev].sata_reg_base);
120         sata->reg_base = reg;
121
122         /* Allocate the command header table, 4 bytes aligned */
123         length = sizeof(struct cmd_hdr_tbl);
124         align = SATA_HC_CMD_HDR_TBL_ALIGN;
125         sata->cmd_hdr_tbl_offset = (void *)malloc(length + align);
126         if (!sata->cmd_hdr_tbl_offset) {
127                 printf("alloc the command header failed\n\r");
128                 return -1;
129         }
130
131         cmd_hdr = (cmd_hdr_tbl_t *)(((u32)sata->cmd_hdr_tbl_offset + align)
132                                                 & ~(align - 1));
133         sata->cmd_hdr = cmd_hdr;
134
135         /* Zero all of the command header table */
136         memset((void *)sata->cmd_hdr_tbl_offset, 0, length + align);
137
138         /* Allocate command descriptor for all command */
139         length = sizeof(struct cmd_desc) * SATA_HC_MAX_CMD;
140         align = SATA_HC_CMD_DESC_ALIGN;
141         sata->cmd_desc_offset = (void *)malloc(length + align);
142         if (!sata->cmd_desc_offset) {
143                 printf("alloc the command descriptor failed\n\r");
144                 return -1;
145         }
146         sata->cmd_desc = (cmd_desc_t *)(((u32)sata->cmd_desc_offset + align)
147                                                 & ~(align - 1));
148         /* Zero all of command descriptor */
149         memset((void *)sata->cmd_desc_offset, 0, length + align);
150
151         /* Link the command descriptor to command header */
152         for (i = 0; i < SATA_HC_MAX_CMD; i++) {
153                 cda = ((u32)sata->cmd_desc + SATA_HC_CMD_DESC_SIZE * i)
154                                          & ~(CMD_HDR_CDA_ALIGN - 1);
155                 cmd_hdr->cmd_slot[i].cda = cpu_to_le32(cda);
156         }
157
158         /* To have safe state, force the controller offline */
159         val32 = in_le32(&reg->hcontrol);
160         val32 &= ~HCONTROL_ONOFF;
161         val32 |= HCONTROL_FORCE_OFFLINE;
162         out_le32(&reg->hcontrol, val32);
163
164         /* Wait the controller offline */
165         ata_wait_register(&reg->hstatus, HSTATUS_ONOFF, 0, 1000);
166
167         /* Set the command header base address to CHBA register to tell DMA */
168         out_le32(&reg->chba, (u32)cmd_hdr & ~0x3);
169
170         /* Snoop for the command header */
171         val32 = in_le32(&reg->hcontrol);
172         val32 |= HCONTROL_HDR_SNOOP;
173         out_le32(&reg->hcontrol, val32);
174
175         /* Disable all of interrupts */
176         val32 = in_le32(&reg->hcontrol);
177         val32 &= ~HCONTROL_INT_EN_ALL;
178         out_le32(&reg->hcontrol, val32);
179
180         /* Clear all of interrupts */
181         val32 = in_le32(&reg->hstatus);
182         out_le32(&reg->hstatus, val32);
183
184         /* Set the ICC, no interrupt coalescing */
185         out_le32(&reg->icc, 0x01000000);
186
187         /* No PM attatched, the SATA device direct connect */
188         out_le32(&reg->cqpmp, 0);
189
190         /* Clear SError register */
191         val32 = in_le32(&reg->serror);
192         out_le32(&reg->serror, val32);
193
194         /* Clear CER register */
195         val32 = in_le32(&reg->cer);
196         out_le32(&reg->cer, val32);
197
198         /* Clear DER register */
199         val32 = in_le32(&reg->der);
200         out_le32(&reg->der, val32);
201
202         /* No device detection or initialization action requested */
203         out_le32(&reg->scontrol, 0x00000300);
204
205         /* Configure the transport layer, default value */
206         out_le32(&reg->transcfg, 0x08000016);
207
208         /* Configure the link layer, default value */
209         out_le32(&reg->linkcfg, 0x0000ff34);
210
211         /* Bring the controller online */
212         val32 = in_le32(&reg->hcontrol);
213         val32 |= HCONTROL_ONOFF;
214         out_le32(&reg->hcontrol, val32);
215
216         mdelay(100);
217
218         /* print sata device name */
219         if (!dev)
220                 printf("%s ", sata->name);
221         else
222                 printf("       %s ", sata->name);
223
224         /* Wait PHY RDY signal changed for 500ms */
225         ata_wait_register(&reg->hstatus, HSTATUS_PHY_RDY,
226                           HSTATUS_PHY_RDY, 500);
227
228         /* Check PHYRDY */
229         val32 = in_le32(&reg->hstatus);
230         if (val32 & HSTATUS_PHY_RDY) {
231                 sata->link = 1;
232         } else {
233                 sata->link = 0;
234                 printf("(No RDY)\n\r");
235                 return -1;
236         }
237
238         /* Wait for signature updated, which is 1st D2H */
239         ata_wait_register(&reg->hstatus, HSTATUS_SIGNATURE,
240                           HSTATUS_SIGNATURE, 10000);
241
242         if (val32 & HSTATUS_SIGNATURE) {
243                 sig = in_le32(&reg->sig);
244                 debug("Signature updated, the sig =%08x\n\r", sig);
245                 sata->ata_device_type = ata_dev_classify(sig);
246         }
247
248         /* Check the speed */
249         val32 = in_le32(&reg->sstatus);
250         if ((val32 & SSTATUS_SPD_MASK) == SSTATUS_SPD_GEN1)
251                 printf("(1.5 Gbps)\n\r");
252         else if ((val32 & SSTATUS_SPD_MASK) == SSTATUS_SPD_GEN2)
253                 printf("(3 Gbps)\n\r");
254
255         return 0;
256 }
257
258 int reset_sata(int dev)
259 {
260         return 0;
261 }
262
263 static void fsl_sata_dump_regs(fsl_sata_reg_t __iomem *reg)
264 {
265         printf("\n\rSATA:           %08x\n\r", (u32)reg);
266         printf("CQR:            %08x\n\r", in_le32(&reg->cqr));
267         printf("CAR:            %08x\n\r", in_le32(&reg->car));
268         printf("CCR:            %08x\n\r", in_le32(&reg->ccr));
269         printf("CER:            %08x\n\r", in_le32(&reg->cer));
270         printf("CQR:            %08x\n\r", in_le32(&reg->cqr));
271         printf("DER:            %08x\n\r", in_le32(&reg->der));
272         printf("CHBA:           %08x\n\r", in_le32(&reg->chba));
273         printf("HStatus:        %08x\n\r", in_le32(&reg->hstatus));
274         printf("HControl:       %08x\n\r", in_le32(&reg->hcontrol));
275         printf("CQPMP:          %08x\n\r", in_le32(&reg->cqpmp));
276         printf("SIG:            %08x\n\r", in_le32(&reg->sig));
277         printf("ICC:            %08x\n\r", in_le32(&reg->icc));
278         printf("SStatus:        %08x\n\r", in_le32(&reg->sstatus));
279         printf("SError:         %08x\n\r", in_le32(&reg->serror));
280         printf("SControl:       %08x\n\r", in_le32(&reg->scontrol));
281         printf("SNotification:  %08x\n\r", in_le32(&reg->snotification));
282         printf("TransCfg:       %08x\n\r", in_le32(&reg->transcfg));
283         printf("TransStatus:    %08x\n\r", in_le32(&reg->transstatus));
284         printf("LinkCfg:        %08x\n\r", in_le32(&reg->linkcfg));
285         printf("LinkCfg1:       %08x\n\r", in_le32(&reg->linkcfg1));
286         printf("LinkCfg2:       %08x\n\r", in_le32(&reg->linkcfg2));
287         printf("LinkStatus:     %08x\n\r", in_le32(&reg->linkstatus));
288         printf("LinkStatus1:    %08x\n\r", in_le32(&reg->linkstatus1));
289         printf("PhyCtrlCfg:     %08x\n\r", in_le32(&reg->phyctrlcfg));
290         printf("SYSPR:          %08x\n\r", in_be32(&reg->syspr));
291 }
292
293 static int fsl_ata_exec_ata_cmd(struct fsl_sata *sata, struct sata_fis_h2d *cfis,
294                                 int is_ncq, int tag, u8 *buffer, u32 len)
295 {
296         cmd_hdr_entry_t *cmd_hdr;
297         cmd_desc_t *cmd_desc;
298         sata_fis_h2d_t *h2d;
299         prd_entry_t *prde;
300         u32 ext_c_ddc;
301         u32 prde_count;
302         u32 val32;
303         u32 ttl;
304         fsl_sata_reg_t __iomem *reg = sata->reg_base;
305         int i;
306
307         /* Check xfer length */
308         if (len > SATA_HC_MAX_XFER_LEN) {
309                 printf("max transfer length is 64MB\n\r");
310                 return 0;
311         }
312
313         /* Setup the command descriptor */
314         cmd_desc = sata->cmd_desc + tag;
315
316         /* Get the pointer cfis of command descriptor */
317         h2d = (sata_fis_h2d_t *)cmd_desc->cfis;
318
319         /* Zero the cfis of command descriptor */
320         memset((void *)h2d, 0, SATA_HC_CMD_DESC_CFIS_SIZE);
321
322         /* Copy the cfis from user to command descriptor */
323         h2d->fis_type = cfis->fis_type;
324         h2d->pm_port_c = cfis->pm_port_c;
325         h2d->command = cfis->command;
326
327         h2d->features = cfis->features;
328         h2d->features_exp = cfis->features_exp;
329
330         h2d->lba_low = cfis->lba_low;
331         h2d->lba_mid = cfis->lba_mid;
332         h2d->lba_high = cfis->lba_high;
333         h2d->lba_low_exp = cfis->lba_low_exp;
334         h2d->lba_mid_exp = cfis->lba_mid_exp;
335         h2d->lba_high_exp = cfis->lba_high_exp;
336
337         if (!is_ncq) {
338                 h2d->sector_count = cfis->sector_count;
339                 h2d->sector_count_exp = cfis->sector_count_exp;
340         } else { /* NCQ */
341                 h2d->sector_count = (u8)(tag << 3);
342         }
343
344         h2d->device = cfis->device;
345         h2d->control = cfis->control;
346
347         /* Setup the PRD table */
348         prde = (prd_entry_t *)cmd_desc->prdt;
349         memset((void *)prde, 0, sizeof(struct prdt));
350
351         prde_count = 0;
352         ttl = len;
353         for (i = 0; i < SATA_HC_MAX_PRD_DIRECT; i++) {
354                 if (!len)
355                         break;
356                 prde->dba = cpu_to_le32((u32)buffer & ~0x3);
357                 debug("dba = %08x\n\r", (u32)buffer);
358
359                 if (len < PRD_ENTRY_MAX_XFER_SZ) {
360                         ext_c_ddc = PRD_ENTRY_DATA_SNOOP | len;
361                         debug("ext_c_ddc1 = %08x, len = %08x\n\r", ext_c_ddc, len);
362                         prde->ext_c_ddc = cpu_to_le32(ext_c_ddc);
363                         prde_count++;
364                         prde++;
365                         break;
366                 } else {
367                         ext_c_ddc = PRD_ENTRY_DATA_SNOOP; /* 4M bytes */
368                         debug("ext_c_ddc2 = %08x, len = %08x\n\r", ext_c_ddc, len);
369                         prde->ext_c_ddc = cpu_to_le32(ext_c_ddc);
370                         buffer += PRD_ENTRY_MAX_XFER_SZ;
371                         len -= PRD_ENTRY_MAX_XFER_SZ;
372                         prde_count++;
373                         prde++;
374                 }
375         }
376
377         /* Setup the command slot of cmd hdr */
378         cmd_hdr = (cmd_hdr_entry_t *)&sata->cmd_hdr->cmd_slot[tag];
379
380         cmd_hdr->cda = cpu_to_le32((u32)cmd_desc & ~0x3);
381
382         val32 = prde_count << CMD_HDR_PRD_ENTRY_SHIFT;
383         val32 |= sizeof(sata_fis_h2d_t);
384         cmd_hdr->prde_fis_len = cpu_to_le32(val32);
385
386         cmd_hdr->ttl = cpu_to_le32(ttl);
387
388         if (!is_ncq) {
389                 val32 = CMD_HDR_ATTR_RES | CMD_HDR_ATTR_SNOOP;
390         } else {
391                 val32 = CMD_HDR_ATTR_RES | CMD_HDR_ATTR_SNOOP | CMD_HDR_ATTR_FPDMA;
392         }
393
394         tag &= CMD_HDR_ATTR_TAG;
395         val32 |= tag;
396
397         debug("attribute = %08x\n\r", val32);
398         cmd_hdr->attribute = cpu_to_le32(val32);
399
400         /* Make sure cmd desc and cmd slot valid before command issue */
401         sync();
402
403         /* PMP*/
404         val32 = (u32)(h2d->pm_port_c & 0x0f);
405         out_le32(&reg->cqpmp, val32);
406
407         /* Wait no active */
408         if (ata_wait_register(&reg->car, (1 << tag), 0, 10000))
409                 printf("Wait no active time out\n\r");
410
411         /* Issue command */
412         if (!(in_le32(&reg->cqr) & (1 << tag))) {
413                 val32 = 1 << tag;
414                 out_le32(&reg->cqr, val32);
415         }
416
417         /* Wait command completed for 10s */
418         if (ata_wait_register(&reg->ccr, (1 << tag), (1 << tag), 10000)) {
419                 if (!is_ncq)
420                         printf("Non-NCQ command time out\n\r");
421                 else
422                         printf("NCQ command time out\n\r");
423         }
424
425         val32 = in_le32(&reg->cer);
426
427         if (val32) {
428                 u32 der;
429                 fsl_sata_dump_sfis((struct sata_fis_d2h *)cmd_desc->sfis);
430                 printf("CE at device\n\r");
431                 fsl_sata_dump_regs(reg);
432                 der = in_le32(&reg->der);
433                 out_le32(&reg->cer, val32);
434                 out_le32(&reg->der, der);
435         }
436
437         /* Clear complete flags */
438         val32 = in_le32(&reg->ccr);
439         out_le32(&reg->ccr, val32);
440
441         return len;
442 }
443
444 static int fsl_ata_exec_reset_cmd(struct fsl_sata *sata, struct sata_fis_h2d *cfis,
445                                  int tag, u8 *buffer, u32 len)
446 {
447         return 0;
448 }
449
450 static int fsl_sata_exec_cmd(struct fsl_sata *sata, struct sata_fis_h2d *cfis,
451                  enum cmd_type command_type, int tag, u8 *buffer, u32 len)
452 {
453         int rc;
454
455         if (tag > SATA_HC_MAX_CMD || tag < 0) {
456                 printf("tag is out of range, tag=%d\n\r", tag);
457                 return -1;
458         }
459
460         switch (command_type) {
461         case CMD_ATA:
462                 rc = fsl_ata_exec_ata_cmd(sata, cfis, 0, tag, buffer, len);
463                 return rc;
464         case CMD_RESET:
465                 rc = fsl_ata_exec_reset_cmd(sata, cfis, tag, buffer, len);
466                 return rc;
467         case CMD_NCQ:
468                 rc = fsl_ata_exec_ata_cmd(sata, cfis, 1, tag, buffer, len);
469                 return rc;
470         case CMD_ATAPI:
471         case CMD_VENDOR_BIST:
472         case CMD_BIST:
473                 printf("not support now\n\r");
474                 return -1;
475         default:
476                 break;
477         }
478
479         return -1;
480 }
481
482 static void fsl_sata_identify(int dev, u16 *id)
483 {
484         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
485         struct sata_fis_h2d h2d, *cfis = &h2d;
486
487         memset(cfis, 0, sizeof(struct sata_fis_h2d));
488
489         cfis->fis_type = SATA_FIS_TYPE_REGISTER_H2D;
490         cfis->pm_port_c = 0x80; /* is command */
491         cfis->command = ATA_CMD_ID_ATA;
492
493         fsl_sata_exec_cmd(sata, cfis, CMD_ATA, 0, (u8 *)id, ATA_ID_WORDS * 2);
494         ata_swap_buf_le16(id, ATA_ID_WORDS);
495 }
496
497 static void fsl_sata_xfer_mode(int dev, u16 *id)
498 {
499         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
500
501         sata->pio = id[ATA_ID_PIO_MODES];
502         sata->mwdma = id[ATA_ID_MWDMA_MODES];
503         sata->udma = id[ATA_ID_UDMA_MODES];
504         debug("pio %04x, mwdma %04x, udma %04x\n\r", sata->pio, sata->mwdma, sata->udma);
505 }
506
507 static void fsl_sata_set_features(int dev)
508 {
509         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
510         struct sata_fis_h2d h2d, *cfis = &h2d;
511         u8 udma_cap;
512
513         memset(cfis, 0, sizeof(struct sata_fis_h2d));
514
515         cfis->fis_type = SATA_FIS_TYPE_REGISTER_H2D;
516         cfis->pm_port_c = 0x80; /* is command */
517         cfis->command = ATA_CMD_SET_FEATURES;
518         cfis->features = SETFEATURES_XFER;
519
520         /* First check the device capablity */
521         udma_cap = (u8)(sata->udma & 0xff);
522         debug("udma_cap %02x\n\r", udma_cap);
523
524         if (udma_cap == ATA_UDMA6)
525                 cfis->sector_count = XFER_UDMA_6;
526         if (udma_cap == ATA_UDMA5)
527                 cfis->sector_count = XFER_UDMA_5;
528         if (udma_cap == ATA_UDMA4)
529                 cfis->sector_count = XFER_UDMA_4;
530         if (udma_cap == ATA_UDMA3)
531                 cfis->sector_count = XFER_UDMA_3;
532
533         fsl_sata_exec_cmd(sata, cfis, CMD_ATA, 0, NULL, 0);
534 }
535
536 static u32 fsl_sata_rw_cmd(int dev, u32 start, u32 blkcnt, u8 *buffer, int is_write)
537 {
538         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
539         struct sata_fis_h2d h2d, *cfis = &h2d;
540         u32 block;
541
542         block = start;
543
544         memset(cfis, 0, sizeof(struct sata_fis_h2d));
545
546         cfis->fis_type = SATA_FIS_TYPE_REGISTER_H2D;
547         cfis->pm_port_c = 0x80; /* is command */
548         cfis->command = (is_write) ? ATA_CMD_WRITE : ATA_CMD_READ;
549         cfis->device = ATA_LBA;
550
551         cfis->device |= (block >> 24) & 0xf;
552         cfis->lba_high = (block >> 16) & 0xff;
553         cfis->lba_mid = (block >> 8) & 0xff;
554         cfis->lba_low = block & 0xff;
555         cfis->sector_count = (u8)(blkcnt & 0xff);
556
557         fsl_sata_exec_cmd(sata, cfis, CMD_ATA, 0, buffer, ATA_SECT_SIZE * blkcnt);
558         return blkcnt;
559 }
560
561 static void fsl_sata_flush_cache(int dev)
562 {
563         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
564         struct sata_fis_h2d h2d, *cfis = &h2d;
565
566         memset(cfis, 0, sizeof(struct sata_fis_h2d));
567
568         cfis->fis_type = SATA_FIS_TYPE_REGISTER_H2D;
569         cfis->pm_port_c = 0x80; /* is command */
570         cfis->command = ATA_CMD_FLUSH;
571
572         fsl_sata_exec_cmd(sata, cfis, CMD_ATA, 0, NULL, 0);
573 }
574
575 static u32 fsl_sata_rw_cmd_ext(int dev, u32 start, u32 blkcnt, u8 *buffer, int is_write)
576 {
577         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
578         struct sata_fis_h2d h2d, *cfis = &h2d;
579         u64 block;
580
581         block = (u64)start;
582
583         memset(cfis, 0, sizeof(struct sata_fis_h2d));
584
585         cfis->fis_type = SATA_FIS_TYPE_REGISTER_H2D;
586         cfis->pm_port_c = 0x80; /* is command */
587
588         cfis->command = (is_write) ? ATA_CMD_WRITE_EXT
589                                  : ATA_CMD_READ_EXT;
590
591         cfis->lba_high_exp = (block >> 40) & 0xff;
592         cfis->lba_mid_exp = (block >> 32) & 0xff;
593         cfis->lba_low_exp = (block >> 24) & 0xff;
594         cfis->lba_high = (block >> 16) & 0xff;
595         cfis->lba_mid = (block >> 8) & 0xff;
596         cfis->lba_low = block & 0xff;
597         cfis->device = ATA_LBA;
598         cfis->sector_count_exp = (blkcnt >> 8) & 0xff;
599         cfis->sector_count = blkcnt & 0xff;
600
601         fsl_sata_exec_cmd(sata, cfis, CMD_ATA, 0, buffer, ATA_SECT_SIZE * blkcnt);
602         return blkcnt;
603 }
604
605 static u32 fsl_sata_rw_ncq_cmd(int dev, u32 start, u32 blkcnt, u8 *buffer,
606                                int is_write)
607 {
608         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
609         struct sata_fis_h2d h2d, *cfis = &h2d;
610         int ncq_channel;
611         u64 block;
612
613         if (sata->lba48 != 1) {
614                 printf("execute FPDMA command on non-LBA48 hard disk\n\r");
615                 return -1;
616         }
617
618         block = (u64)start;
619
620         memset(cfis, 0, sizeof(struct sata_fis_h2d));
621
622         cfis->fis_type = SATA_FIS_TYPE_REGISTER_H2D;
623         cfis->pm_port_c = 0x80; /* is command */
624
625         cfis->command = (is_write) ? ATA_CMD_FPDMA_WRITE
626                                  : ATA_CMD_FPDMA_READ;
627
628         cfis->lba_high_exp = (block >> 40) & 0xff;
629         cfis->lba_mid_exp = (block >> 32) & 0xff;
630         cfis->lba_low_exp = (block >> 24) & 0xff;
631         cfis->lba_high = (block >> 16) & 0xff;
632         cfis->lba_mid = (block >> 8) & 0xff;
633         cfis->lba_low = block & 0xff;
634
635         cfis->device = ATA_LBA;
636         cfis->features_exp = (blkcnt >> 8) & 0xff;
637         cfis->features = blkcnt & 0xff;
638
639         if (sata->queue_depth >= SATA_HC_MAX_CMD)
640                 ncq_channel = SATA_HC_MAX_CMD - 1;
641         else
642                 ncq_channel = sata->queue_depth - 1;
643
644         /* Use the latest queue */
645         fsl_sata_exec_cmd(sata, cfis, CMD_NCQ, ncq_channel, buffer, ATA_SECT_SIZE * blkcnt);
646         return blkcnt;
647 }
648
649 static void fsl_sata_flush_cache_ext(int dev)
650 {
651         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
652         struct sata_fis_h2d h2d, *cfis = &h2d;
653
654         memset(cfis, 0, sizeof(struct sata_fis_h2d));
655
656         cfis->fis_type = SATA_FIS_TYPE_REGISTER_H2D;
657         cfis->pm_port_c = 0x80; /* is command */
658         cfis->command = ATA_CMD_FLUSH_EXT;
659
660         fsl_sata_exec_cmd(sata, cfis, CMD_ATA, 0, NULL, 0);
661 }
662
663 static void fsl_sata_init_wcache(int dev, u16 *id)
664 {
665         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
666
667         if (ata_id_has_wcache(id) && ata_id_wcache_enabled(id))
668                 sata->wcache = 1;
669         if (ata_id_has_flush(id))
670                 sata->flush = 1;
671         if (ata_id_has_flush_ext(id))
672                 sata->flush_ext = 1;
673 }
674
675 static int fsl_sata_get_wcache(int dev)
676 {
677         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
678         return sata->wcache;
679 }
680
681 static int fsl_sata_get_flush(int dev)
682 {
683         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
684         return sata->flush;
685 }
686
687 static int fsl_sata_get_flush_ext(int dev)
688 {
689         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
690         return sata->flush_ext;
691 }
692
693 static u32 ata_low_level_rw_lba48(int dev, u32 blknr, lbaint_t blkcnt,
694                 const void *buffer, int is_write)
695 {
696         u32 start, blks;
697         u8 *addr;
698         int max_blks;
699
700         start = blknr;
701         blks = blkcnt;
702         addr = (u8 *)buffer;
703
704         max_blks = ATA_MAX_SECTORS_LBA48;
705         do {
706                 if (blks > max_blks) {
707                         if (fsl_sata_info[dev].flags != FLAGS_FPDMA)
708                                 fsl_sata_rw_cmd_ext(dev, start, max_blks, addr, is_write);
709                         else
710                                 fsl_sata_rw_ncq_cmd(dev, start, max_blks, addr, is_write);
711                         start += max_blks;
712                         blks -= max_blks;
713                         addr += ATA_SECT_SIZE * max_blks;
714                 } else {
715                         if (fsl_sata_info[dev].flags != FLAGS_FPDMA)
716                                 fsl_sata_rw_cmd_ext(dev, start, blks, addr, is_write);
717                         else
718                                 fsl_sata_rw_ncq_cmd(dev, start, blks, addr, is_write);
719                         start += blks;
720                         blks = 0;
721                         addr += ATA_SECT_SIZE * blks;
722                 }
723         } while (blks != 0);
724
725         return blkcnt;
726 }
727
728 static u32 ata_low_level_rw_lba28(int dev, u32 blknr, u32 blkcnt,
729                                   const void *buffer, int is_write)
730 {
731         u32 start, blks;
732         u8 *addr;
733         int max_blks;
734
735         start = blknr;
736         blks = blkcnt;
737         addr = (u8 *)buffer;
738
739         max_blks = ATA_MAX_SECTORS;
740         do {
741                 if (blks > max_blks) {
742                         fsl_sata_rw_cmd(dev, start, max_blks, addr, is_write);
743                         start += max_blks;
744                         blks -= max_blks;
745                         addr += ATA_SECT_SIZE * max_blks;
746                 } else {
747                         fsl_sata_rw_cmd(dev, start, blks, addr, is_write);
748                         start += blks;
749                         blks = 0;
750                         addr += ATA_SECT_SIZE * blks;
751                 }
752         } while (blks != 0);
753
754         return blkcnt;
755 }
756
757 /*
758  * SATA interface between low level driver and command layer
759  */
760 ulong sata_read(int dev, ulong blknr, lbaint_t blkcnt, void *buffer)
761 {
762         u32 rc;
763         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
764
765         if (sata->lba48)
766                 rc = ata_low_level_rw_lba48(dev, blknr, blkcnt, buffer, READ_CMD);
767         else
768                 rc = ata_low_level_rw_lba28(dev, blknr, blkcnt, buffer, READ_CMD);
769         return rc;
770 }
771
772 ulong sata_write(int dev, ulong blknr, lbaint_t blkcnt, const void *buffer)
773 {
774         u32 rc;
775         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
776
777         if (sata->lba48) {
778                 rc = ata_low_level_rw_lba48(dev, blknr, blkcnt, buffer, WRITE_CMD);
779                 if (fsl_sata_get_wcache(dev) && fsl_sata_get_flush_ext(dev))
780                         fsl_sata_flush_cache_ext(dev);
781         } else {
782                 rc = ata_low_level_rw_lba28(dev, blknr, blkcnt, buffer, WRITE_CMD);
783                 if (fsl_sata_get_wcache(dev) && fsl_sata_get_flush(dev))
784                         fsl_sata_flush_cache(dev);
785         }
786         return rc;
787 }
788
789 int scan_sata(int dev)
790 {
791         fsl_sata_t *sata = (fsl_sata_t *)sata_dev_desc[dev].priv;
792         unsigned char serial[ATA_ID_SERNO_LEN + 1];
793         unsigned char firmware[ATA_ID_FW_REV_LEN + 1];
794         unsigned char product[ATA_ID_PROD_LEN + 1];
795         u16 *id;
796         u64 n_sectors;
797
798         /* if no detected link */
799         if (!sata->link)
800                 return -1;
801
802         id = (u16 *)malloc(ATA_ID_WORDS * 2);
803         if (!id) {
804                 printf("id malloc failed\n\r");
805                 return -1;
806         }
807
808         /* Identify device to get information */
809         fsl_sata_identify(dev, id);
810
811         /* Serial number */
812         ata_id_c_string(id, serial, ATA_ID_SERNO, sizeof(serial));
813         memcpy(sata_dev_desc[dev].product, serial, sizeof(serial));
814
815         /* Firmware version */
816         ata_id_c_string(id, firmware, ATA_ID_FW_REV, sizeof(firmware));
817         memcpy(sata_dev_desc[dev].revision, firmware, sizeof(firmware));
818
819         /* Product model */
820         ata_id_c_string(id, product, ATA_ID_PROD, sizeof(product));
821         memcpy(sata_dev_desc[dev].vendor, product, sizeof(product));
822
823         /* Totoal sectors */
824         n_sectors = ata_id_n_sectors(id);
825         sata_dev_desc[dev].lba = (u32)n_sectors;
826
827 #ifdef CONFIG_LBA48
828         /* Check if support LBA48 */
829         if (ata_id_has_lba48(id)) {
830                 sata->lba48 = 1;
831                 debug("Device support LBA48\n\r");
832         } else
833                 debug("Device supports LBA28\n\r");
834 #endif
835
836         /* Get the NCQ queue depth from device */
837         sata->queue_depth = ata_id_queue_depth(id);
838
839         /* Get the xfer mode from device */
840         fsl_sata_xfer_mode(dev, id);
841
842         /* Get the write cache status from device */
843         fsl_sata_init_wcache(dev, id);
844
845         /* Set the xfer mode to highest speed */
846         fsl_sata_set_features(dev);
847 #ifdef DEBUG
848         fsl_sata_identify(dev, id);
849         ata_dump_id(id);
850 #endif
851         free((void *)id);
852         return 0;
853 }