Spark 데이터 프레임에 전체 열 내용을 표시하는 방법은 무엇입니까?
spark-csv를 사용하여 데이터를 DataFrame에로드합니다. 간단한 쿼리를 수행하고 내용을 표시하고 싶습니다.
val df = sqlContext.read.format("com.databricks.spark.csv").option("header", "true").load("my.csv")
df.registerTempTable("tasks")
results = sqlContext.sql("select col from tasks");
results.show()
열이 잘린 것 같습니다.
scala> results.show();
+--------------------+
| col|
+--------------------+
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-06 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:21:...|
|2015-11-16 07:21:...|
|2015-11-16 07:21:...|
+--------------------+
열의 전체 내용을 표시하려면 어떻게합니까?
results.show(20, false)
잘리지 않습니다. 소스 확인
를 입력 results.show(false)
하면 결과가 잘리지 않습니다
다른 솔루션은 좋습니다. 이것이 당신의 목표라면 :
- 열 잘림 없음
- 행 손실이 없습니다.
- 빠르고
- 실력 있는
이 두 줄은 유용합니다 ...
df.persist
df.show(df.count, false) // in Scala or 'False' in Python
지속함으로써, 실행기 내에서 임시 기본 데이터 프레임 구조를 사용 persist
하거나 cache
유지 보수 할 때 2 개의 실행기 조치 (카운트 및 표시)가 더 빠르고 효율적 입니다. 지속 및 캐시 에 대해 자세히 알아보십시오 .
아래 코드는 각 열에서 잘리지 않고 모든 행을 보는 데 도움이됩니다.
df.show(df.count(), False)
results.show(20, False)
또는 results.show(20, false)
Java / Scala / Python에서 실행 중인지 여부에 따라
results.show(false)
전체 열 내용이 표시됩니다.
기본적으로 20으로 제한을 false
표시하고 앞에 숫자를 추가하면 더 많은 행이 표시됩니다.
이 명령을 시도하십시오 :
df.show(df.count())
Databricks 내 에서 데이터 프레임을 테이블 형식으로 시각화 할 수 있습니다. 다음 명령으로
display(results)
그것은처럼 보일 것입니다
results.show(20,false)
스칼라에서 나를 위해 속임수를 썼다.
플러그인 Chrome 확장 프로그램을 사용하면 꽤 잘 작동합니다.
[ https://userstyles.org/styles/157357/jupyter-notebook-wide][1]
참고 URL : https://stackoverflow.com/questions/33742895/how-to-show-full-column-content-in-a-spark-dataframe
'Programing' 카테고리의 다른 글
D는 Java 및 C ++의 확실한 대안입니까? (0) | 2020.06.02 |
---|---|
VIM에서 실제로 하나의 긴 줄을 여러 줄로 나누려면 어떻게해야합니까? (0) | 2020.06.02 |
C에서 void 포인터에 대한 포인터 산술 (0) | 2020.06.02 |
VS.NET 2013에서 __vwd / js / artery를 비활성화하려면 어떻게해야합니까? (0) | 2020.06.02 |
시스템에 남아있는 실행 파일이 없을 때 Windows 서비스를 제거하는 방법은 무엇입니까? (0) | 2020.06.02 |